ИИ для продакта & CPO | Влад Прошинский

Инсайты от Databricks, Anyscale и Microsoft

Али Годси , соучредитель и генеральный директор Databricks: «ИИ съест программное обеспечение» — ИИ станет не просто дополнением: он будет встроен во все платформы данных. «Это произойдет в каждой профессии, в каждой отрасли, в каждой организации». Результатом станет дальнейший переход ПО из статического (жестко запрограммированного) в самоуправляемый механизм принятия решений.

Навин Рао, вице-президент по ИИ в Databricks предлагает противоядие от опасений конца света с AGI, выражая глубокий скептицизм о его скором появлении и оценивает вероятность появления AGI в следующем десятилетии от 30% до 50%. Более реалистичные сроки — 30 лет с вероятностью 90%.

В 2023 году целью компаний, экспериментировавших с генеративным ИИ, было просто создать MVP, подтвердить, что у него есть вариант использования, и быстро выполнить итерацию.

Сейчас мы приближаемся ко 2-ому этапу, когда компании доказали ценность генеративного ИИ. У него есть пользователи. Теперь акцент на повышении качества, уменьшении задержек, расширении возможностей приложения и снижении затрат. Эти улучшения часто требуют перехода от API к более настраиваемым моделям. На данном этапе «существует множество более сложных инфраструктурных проблем. Производительность и стоимость становятся важными факторами»

Еще одно интересное событие, — растущее использование архитектур маршрутизации. Представьте классификатор как своего рода контроллер трафика для ваших запросов ИИ. Он оценивает сложность каждого запроса и направляет его к наиболее подходящей модели: более простые запросы обрабатываются меньшими моделями, а более сложные передаются более крупным и сложным моделям.

❤1

248 views06:42