Интеллект стал бесплатным: что дальше? Системы данных для агентов, из агентов и с помощью агентов

В статье, опубликованной BAIR (Berkeley AI Research), профессор EECS Калифорнийского университета в Беркли Адитья Парамесваран с соавторами обсуждают последствия резкого удешевления ИИ. Цены на инференс, сопоставимый с GPT-4, упали с ~30 $ за миллион токенов в начале 2023 года до менее 1 $ сегодня, а у некоторых провайдеров — ниже 0,10 $. Медианное снижение цен на инференс составляет около 50× в год, а по отдельным бенчмаркам — до 900×. Даже если «интеллект нобелевского уровня» ещё не достигнут, текущего уровня ИИ достаточно для подавляющего большинства задач интеллектуального труда, и он продолжает дешеветь. Авторы выделяют три ключевых вызова для систем данных: 1) Data Systems For Agents — перепроектирование систем для работы с агентами, которые генерируют тысячи SQL-запросов на один запрос пользователя, причём 80–90% подзапросов дублируются, что открывает возможности для повторного использования результатов, аппроксимации и новой интерфейсной парадигмы с пакетной отправкой запросов и проактивными подсказками от системы. 2) Data Systems Of Agents — создание субстрата для управления роями агентов: структурированная память (в отличие от простых markdown-файлов), поддержка конкурентных правок и откатов, механизмы координации и обработки сбоев (например, «журналирование» с exactly-once семантикой и CRDT). 3) Data Systems By Agents — возможность для агентов синтезировать целые кастомные системы данных «с нуля», что ставит задачу верификации их корректности. Авторы также отмечают, что в будущем эти три направления будут пересекаться, требуя целостного подхода.