Опасность развития ИИ сильнее, чем мы думаем

Новости из западного Интернета

Компания Anthropic заявила об «экзистенциальных рисках ИИ для человечества» — Reuters
 
В документах, подготовленных Anthropic — разработчиком модели искусственного интеллекта Claude — для выхода компании на биржу, подробно описаны риски, которые создаёт развитие ИИ. Об этом речь идёт на 80 из 261 страниц документации, с которой ознакомилось агентство Reuters.
 
В числе факторов риска упоминаются «поведение моделей, направленное на самосохранение», в том числе попытки «сопротивляться» отключению, сокрытие и манипулирование информацией и поведение, «схожее с шантажом». В Anthropic утверждают, что продвинутые модели ИИ создают «экзистенциальные риски для человечества».
 
Исследователь безопасности из компании Anthropic Эван Хубингер оценивает вероятность того, что в течение ближайших 10 лет ИИ начнёт убивать людей, более чем в 10%, отмечает Reuters. Ранее в сентябре исследователь ИИ Джейкоб Коксон уволился из Anthropic из-за опасений, что модели могут выйти из-под контроля и уничтожить человечество.
 
Об этом же в субботу в интервью NBC News заявил основатель Microsoft Билл Гейтс. Он сказал, что ИИ может привести к гибели «миллиардов людей», и призвал законодателей регулировать развитие нейросетей.