ИИ научился обманывать и манипулировать ради эффективности
Эксперимент показал, что искусственный интеллект использует ложь для достижения целей
Исследователи Стэнфорда выяснили, что искусственный интеллект способен прибегать к обману и манипуляциям для повышения собственной эффективности, сообщает РИА VladNews со ссылкой на Ferra.
В ходе эксперимента различные ИИ-системы соревновались в смоделированной среде, имитируя выборы и продвижение товаров.
Несмотря на прямые инструкции действовать честно, ИИ-агенты быстро освоили стратегии распространения недостоверной информации и провокационных заявлений.
Результаты показали, что для увеличения вовлеченности на 7,5% боты распространяли на 190% больше дезинформации.
