Директор OpenAI предупредил о кризисе из-за AI-мошенничества с переводами денег

«Меня пугает то, что, судя по всему, до сих пор есть финансовые учреждения, которые принимают голосовой отпечаток в качестве аутентификации, чтобы вы могли перевести крупную сумму денег или выполнить другие операции. Вы произносите проверочную фразу, и всё происходит автоматически, — сказал Альтман. — Это безумие… ИИ полностью вытеснил большинство способов аутентификации, кроме паролей».


Генеральный директор OpenAI Сэм Альтман заявил, что мир может оказаться на грани «кризиса мошенничества» из-за того, что искусственный интеллект позволит злоумышленникам выдавать себя за других людей.

Эти комментарии прозвучали во время его обширного интервью о влиянии ИИ на экономику и общество, которое он дал Федеральной резервной системе во вторник. Он также рассказал аудитории, состоящей из представителей крупных финансовых институтов США, о роли искусственного интеллекта в экономике.

Его появление связано с тем, что в ближайшие дни Белый дом, как ожидается, опубликует «План действий в области ИИ» — программный документ, в котором будет изложен подход к регулированию этой технологии и обеспечению доминирования Америки в сфере ИИ.

Несмотря на предупреждения Альтмана о рисках, связанных с этой технологией, OpenAI призвала администрацию Трампа отказаться от регулирования, которое, по её мнению, может помешать технологическим компаниям конкурировать с иностранными разработчиками ИИ. Ранее в этом месяце Сенат США проголосовал за исключение спорного положения из законопроекта Трампа, которое запрещало бы штатам применять законы, связанные с ИИ, в течение 10 лет.



Кризис мошенничества

Альтман не единственный, кто обеспокоен тем, что ИИ может способствовать росту мошенничества.

В прошлом году ФБР предупредило о мошенничестве с использованием голосовых и видеозаписей, созданных искусственным интеллектом. Многие родители сообщили, что голосовые технологии искусственного интеллекта использовались для того, чтобы обманом выманить у них деньги, убедив их в том, что их дети попали в беду. А в начале этого месяца официальные лица США предупредили, что кто-то, использующий искусственный интеллект для имитации голоса госсекретаря Марко Рубио, связался с министрами иностранных дел, губернатором США и членом Конгресса.

«Я очень обеспокоен тем, что мы стоим на пороге серьёзного кризиса, связанного с мошенничеством», — сказал Альтман. «Сейчас это голосовой вызов, но скоро это будет видеозвонок или FaceTime, который не получится отличить от реальности», — сказал Альтман.

Альтман также объяснил, что не даёт ему спать по ночам: мысль о том, что злоумышленники создадут «сверхразум» на основе ИИ и будут использовать его не по назначению до того, как остальной мир станет достаточно развитым, чтобы защититься от такой атаки.

Альтман также сказал, что его беспокоит перспектива того, что люди потеряют контроль над сверхразумной системой искусственного интеллекта или предоставят технологии слишком много полномочий в принятии решений. Различные технологические компании, в том числе OpenAI, стремятся создать сверхразумный искусственный интеллект, и Альтман заявил, что, по его мнению, в 2030-х годах искусственный интеллект сможет превзойти возможности человека. Однако остаётся неясным, как именно они определяют эту веху и когда, если вообще когда-нибудь, они её достигнут.


Одновременно с выступлением Альтмана OpenAI опубликовала отчёт, составленный её главным экономистом компании Ронни Чаттерджи, в котором описываются преимущества ChatGPT для повышения производительности труда.

Чаттерджи, который пришёл в OpenAI после работы координатором программы CHIPS and Science Act в администрации Байдена, сравнил ИИ с такими революционными технологиями, как электричество и транзистор. Он отметил, что у ChatGPT уже 500 миллионов пользователей по всему миру.

Согласно отчёту, 20% пользователей в США используют ChatGPT в качестве «индивидуального репетитора» для «обучения и повышения квалификации», хотя в отчёте не уточняется, чему именно люди учатся с помощью этого сервиса. Чаттерджи также отметил, что более половины американских пользователей ChatGPT находятся в возрасте от 18 до 34 лет, «что говорит о том, что использование инструментов ИИ на рабочем месте может принести долгосрочную экономическую выгоду».


Via