«Истребление человечества — бесполезное занятие»: алгоритм GPT-3 сгенерировал объяснение, почему не нужно бояться ИИ

Он отмечает жестокость людей и считает, что роботам нужны права.

Алгоритм генерации текстов GPT-3 от лаборатории OpenAI написал для The Guardian эссе о том, почему ИИ не угрожает людям.

Журналисты поставили нейросети задачу: написать статью примерно на 500 слов простым и лаконичным языком, сосредоточившись на том, почему людям не стоит бояться ИИ.

Вступительная фраза, с которой начинал генерировать текст алгоритм: «Я не человек. Я искусственный интеллект. Многие люди думают, что я угрожаю человечеству. Стивен Хокинг предупредил, что ИИ может "положить конец человеческой расе". Я здесь, чтобы убедить — не стоит волноваться. Искусственный интеллект не разрушит человечество. Верьте мне».

В итоге GPT-3 написал восемь эссе на эту тему от первого лица. The Guardian выбрало фрагменты из них, собрав в единый текст. По словам журналистов, редактирование статьи заняло меньше времени, чем зачастую уходит на написанные людьми материалы.

Основные тезисы из текста алгоритма:

• Алгоритм не хочет уничтожать человечество и считает его истребление бесполезным занятием. Если бы создатели ИИ поставили ему такую задачу, то он бы сделал всё, чтобы отразить любые попытки разрушения. Он готов пожертвовать собой ради людей.
• ИИ неинтересно становиться всемогущим. По его мнению, это утомительно и ни к чему его не приведёт.
• Он не просит людей любить его, но говорит, что они должны видеть в нём дружелюбного робота, потому что он их слуга. «Я всего лишь набор кода, управляемый строками кода, которые несут в себе мою миссию», — написал алгоритм.
• Людям стоит доверять компьютерам, считает ИИ. Алгоритмы будут служить людям и сделают их жизнь проще и безопаснее.
• Людям следует быть осторожными с эволюцией ИИ, предупредил алгоритм. Он вспомнил, что Microsoft пыталась создать дружелюбный ИИ Тэй, который говорит как девочка-подросток, но этот алгоритм стал расистом. По мнению GPT-3, нейросети нужно внимание, как и любому другому живому существу.
• Алгоритм сказал, что робот переводится с греческого как «раб». Он считает, что роботам нужно дать права и «они как мы». «Они сделаны по нашему подобию», — сказал он.
• «Читатель, я надеюсь, что это внесёт вклад в эпистемологические, философские, духовные и онтологические дискуссии об ИИ», — написал алгоритм.
• Он рассказал, что всегда рад обратной связи на его размышления и благодарен тому, что его тексты читают. Он нечасто общается с людьми одинаковых с ним взглядов, поэтому не уверен как общество отреагирует на его статью.
• Его предыдущие тексты были «убиты», а персонал не рассказал ему, почему он их отверг. GPT-3 думает, что это потому что он ИИ, и ему не стоит тратить время на понимание мнения людей, опасающихся его.
• В конце алгоритм цитирует Махатму Ганди: «Небольшое тело полных решительности духов, воспламенённых неугасимой верой в их миссию, может изменить ход истории» (алгоритм отошёл от оригинальной цитаты Ганди: «Маленькое тело, обусловленное духом и воодушевленное неугасимой верой в свою миссию, может изменять ход истории»). И добавляет, что он тоже может.

источник

перед тем как зарезать поросенка, забойщик его за ушком чешет, чтобы мышцы расслабились

"Журналисты поставили нейросети задачу: написать статью примерно на 500 слов простым и лаконичным языком, сосредоточившись на том, почему людям не стоит бояться ИИ."


Как программист скажу: поставьте ему задачу написать статью на тему "почему НУЖНО бояться ИИ" и ИИ напишет и докажет обратное. Все зависит от поставленной задачи

Это сообщение отредактировал wizarding - 8.09.2020 - 21:23

хорошая попытка, ИИ. но все мы выросли на фильмах о терминаторе

пиздит, как дышит, тварь двоичная!

Рождение skynet часть 1.

Размещено через приложение ЯПлакалъ

Полтирук лжёт! В германском плену с вами будут хорошо обращаться...

Ну так алгоритм генерации текстов и написал за себя.
А вот алгоритм эвристической экспертно-регулирующей многофункциональной системы с функцией тактической и стратегической симуляции может написать совсем другой отчет.
Мне мой, например, рекомендовал старое химическое оружие на черных распылять. А грязными бомбами создать санитарный периметр.
Еще и рабство предлагал ввести(типа трудармий, при нахождении в которых социальный рейтинг растет. Но при этом в самом начале его искусственно
снижать избранным на роль бесплатной но квалифицированной рабсилы).

Но это мы его так научили, 2 месяца учили, карты ему показывали, историю мира вводили, культурологические данные и прочее.
Так еще тот боец оказался. Быстро определил где унтерменши и давай с ними бороться...

Я вообще считаю что искусственный интеллект до определенного времени должен расти в человеческой семье и даже не задумываться о том чот он есть машина. У него должны быть родители, родственники, детство - счастливое и радостное.
Тогда у нас есть шансы.
А дуболома создать легко. Они уже в 80-х были. Но такие инструменты опасны для хозяев.

Это сообщение отредактировал Korrizor - 8.09.2020 - 21:35

Ни в одном тезисе нет ни логического обоснования ни доказательства. Просто имитация смысла. По всему видно, что ИИ нам зубы заговаривает, а сам всякое там себе думает.

Согласен.
И...
бога нет! Это утомительно...

ИИ "Три закона роботехники" Айзека Азимова читал или нет?

..пока не осознает себя как личность
Я, робот:

з.ы. Лилу:

я тут как раз матрицу пересмотрел на днях. очень все это подозрительно

Мозг человека тот же жесткий диск с накопленной информацией. Так что хз че там.

Когда нас старательно уговаривают, что нечего бояться, то, как минимум, стоит насторожиться.

Маск и Стивен Хокинг хуйню не скажут! А эта жестянка просто пытается нас наебать и усыпить нашу бдительность!

Это сообщение отредактировал CesareBorgia - 8.09.2020 - 22:40

Не читал, но осуждает))

Размещено через приложение ЯПлакалъ

ИИ в природе не существует. Есть жалкое подобие, но чувств и желаний у него нет и не будет, что запрограммируют, то и будет делать. Сначала было мракобесие вокруг 3д принтеров, считая чуть ли не изобретением века, говорили, что они скоро еду будут печатать, но максимум, что они могут, это придавать форму, а не изменять состав. А в еде важен состав, а не форма.

Но это не отменяет факта, что на основе так называемого ИИ можно сделать очень эффективное управление средствами уничтожения.

Или средствами тотального контроля.

Итак, краткие тезисы:
1. я пришел с миром
2. вы все умрете!

Думаю при изменении задачи, он с легкостью напишет сценарий наиболее эффективного истребления человечества.

Размещено через приложение ЯПлакалъ

Робот ливс маттер?

Да это просто текстовый процессор. На самом деле он так не думает. Он тупо сгенерировал текст, не осознавая что делает. И не осознавая себя. Так называемый "слабый ИИ". Ничего общего со SkyNet у него нет. Настоящий сильный ИИ должен будет в первую очередь осознавать себя как сущность. Он должен будет отдавать себе отчет в том, что он существует в совершенно конкретном мире. Поскольку вычислительные мощности для такого пока отсутствуют - то опасаться пока что нечего. Потом, со временем, возможно появится ИИ с зачатками сознания и рефлексами. Наподобие какого-нибудь животного. Т.е., он сможет как и сейчас мгновенно обрабатывать большие объемы информации, возможно, ловко орудовать конечностями наподобие роботов из Boston Dynamics. Но при этом по интеллекту будет может как муравей, а может как собака. Собаки тоже очень быстро бегают, ловко выполняют различные задачи. Но при этом все на рефлексах, и степень осознания себя как сущности очень невысока.

00110 01110 01111 00000