Import AI 456: RSI и экономический рост; радикальная опциональность для регулирования ИИ; нейрокомпьютер

Исследователи из Института права и ИИ предложили подход «радикальной опциональности» для регулирования ИИ, согласно которому правительства должны уже сейчас инвестировать в инструменты и полномочия, которые могут понадобиться в будущем при возникновении кризиса, связанного с мощным ИИ, избегая при этом чрезмерного регулирования. Рекомендации включают меры по сбору информации (прозрачность, отчётность, аудит), защиту информаторов, обмен информацией внутри правительств и между ними, гибкие правила и определения, развитие возможностей оценки ИИ, улучшение безопасности весов моделей и алгоритмических секретов, а также привлечение технических талантов. Авторы признают риски злоупотребления властью и концентрации полномочий. Вторая тема — статья «Нейрокомпьютеры» от Meta и KAIST (соавтор — Юрген Шмидхубер), в которой исследуется идея нейронной системы, объединяющей вычисления, память и ввод-вывод в едином обучаемом состоянии выполнения. Прототипы на основе генеративной видеомодели Wan 2.1 показали способность выполнять базовые рабочие процессы командной строки и графического интерфейса, хотя и с ограниченной стабильностью. Третья тема — исследование экономистов из Forethought, Колумбийского университета и Университета Вирджинии о том, что рекурсивное самосовершенствование ИИ может вызвать взрывной экономический рост. Модель показывает, что автоматизация 13% всех секторов или 20% только аппаратного обеспечения достаточна для перехода экономики в режим взрывного роста. При полной автоматизации программных НИОКР и 5% автоматизации остальной экономики сингулярность может наступить примерно через шесть лет.