ИИ в найме: формирование собственных предубеждений и риски для объективности
SpaceX
Anthropic
Meta
Moonshot AI
Новое исследование показывает, что языковые модели (LLM) могут не только наследовать человеческие предубеждения из обучающих данных, но и развивать собственные стереотипы в отношении соискателей, превосходя в этом людей. В связи с внедрением агентных моделей, запоминающих детали о пользователях, риски дискриминации при найме возрастают. Также в новости: угрозы саботажа данных о погоде для прогнозирования, переговоры SpaceX с Пентагоном, рост подписок на Kimi K3 и другие события.
Исследование, о котором сообщает MIT Technology Review, выявило, что искусственный интеллект при найме может формировать собственные предубеждения, причем в большей степени, чем люди, стереотипизируя соискателей. Это происходит потому, что LLM накапливают опыт взаимодействия, а компании-разработчики внедряют агентные модели, запоминающие детали о пользователях, что может усилить предвзятость. Параллельно эксперты предупреждают о росте риска саботажа метеорологических данных: манипуляции для получения выгоды на рынках прогнозирования и переход на ИИ-прогнозирование погоды угрожают точности. В других новостях: SpaceX ведет переговоры с Пентагоном о продаже вычислительных мощностей ИИ на миллиарды долларов; Anthropic обсуждает приобретение вычислительных ресурсов у Meta; китайская Moonshot приостановила новые подписки на Kimi K3 из-за ажиотажа; также упоминаются проблемы вооруженных роботов, использование ИИ в политике и выращивание лабораторных зубов.
- Сокращения
- LLM = Large Language Model — большая языковая модель
- DoD = Department of Defense — Министерство обороны США
Источник: MIT Technology Review —
оригинал