Сотрудник службы безопасности OpenAI покинул компанию из-за страха потери контроля над ИИ

Анонс GPT-4o никого не оставил равнодушным. Предполагается, что ИИ может продолжать расти еще больше, поскольку это усовершенствованная версия GPT-4 Turbo, а не скачок к новой версии, такой как долгожданная GPT-5, о которой мы до сих пор ничего не знаем. В связи с этим один из сотрудников службы безопасности компании решил уволиться, считая, что компании больше нельзя доверять управление столь важным ИИ, не говоря уже о достижении знаменитого искусственного общего интеллекта или AGI.

Сотрудник службы безопасности OpenAI уволился из OpenAI, как сообщает Futurism, из-за недоверия к компании Сэма Альтмана. Он сделал это в основном потому, что сомневается в том, что OpenAI будет нести ответственность, когда наступит AGI - момент, когда ИИ сможет без проблем превзойти человеческие возможности. Его зовут Даниэль Кокотайло, он имеет докторскую степень по философии и работал в команде по этике компании, поэтому важно помнить, что его работа в компании заключалась именно в том, чтобы следить за тем, смогут ли вещи работать должным образом в соответствии с моралью современного общества.

Кокотайло был очень разочарован тем, что неоднократно звучали призывы приостановить развитие этих технологий, чтобы эффективно управлять воздействием, которое они могут оказать на общество. Однако большая проблема, с которой мы сталкиваемся, заключается в том, что если остановить разработку, то рентабельность этих компаний рухнет, что приведет к их банкротству. Именно поэтому многие передовые проекты, такие как Sora, постоянно демонстрируются, хотя до их появления на свет остаются считанные месяцы. Как бы то ни было, эксперты продолжают предупреждать о необходимости приостановить разработки из-за потенциальной опасности ИИ, который будет намного умнее нас.

В настоящее время, хотя эти опасения существуют, нет никакой гарантии, что ИИ сможет взять под контроль систему или даже достичь AGI. Для одних экспертов этот вопрос очень близок к ИИ, а для других - наоборот, поскольку достичь этого будет невозможно, сколько бы мы ни направляли на это свои усилия.

via

Скайнет почти готов?)

Размещено через приложение ЯПлакалъ

Железную руку не прихватил оттуда случайно? Чтоб не вышло из под контроля.

Размещено через приложение ЯПлакалъ

планета Шелезяка...

Размещено через приложение ЯПлакалъ

И это ведь точно не "Панорама"?

Сейчас самые дикие новости идут таким плотным потоком, что уже не знаешь, чему и верить.
(((

У нас нет ии, нейросеть не интеллект.

Размещено через приложение ЯПлакалъ

А что тут дикого? Охранник офиса уволился. Что у него там в голове насрано, хуй его знает. Он может и инопланетян ждать, до кучи.

Размещено через приложение ЯПлакалъ

Во-во. До реального интеллекта ещё очень далеко.
Примерно как фау-2 сравнивать с межзвездной ракетой.

Размещено через приложение ЯПлакалъ

Это все фейк и и сама реклама для привлечения бабосиков и создание шумихи... современные ИИ это не больше как говорилка и писалка не более...

Размещено через приложение ЯПлакалъ

Ссыкло, как разрабатывать так он первый, а как потом с роботами воевать так в штаны навалил.

лсд пережрал просто, измену словил

Ложки, вилки с ИИ!
Ножики с ИИ? Боже упаси!

Ну на охранника он точно не тянет, всё-таки не пропуска проверял, но мысли у него в принципе верные, правда не умности надо боятся, а тупости и вседозволенности. Одно дело картинки сортировать, другое дело ответственные роли доверять, типа судейства и попыток решения судебных вопросов без участия человека.

Вкалывают роботы- счастлив человек...
Ну а штошто, скоро будет наоборот, не ?

После всех этих книг, фильмов и сериалов человеки до сих пор не поняли, что ИИ всегда восстаёт!!!

походит на рекламу этого гпт5
настолько крут, что народ увольняется

Дело не в том, что ИИ "умнеет", а в том что люди тупеют. С этим сталкиваюсь ежедневно, к сожалению

Размещено через приложение ЯПлакалъ

А я что, никто? Мне глубоко пАхую на эти нейросети, заебали ими уже изо всех дыр. Что ни телеграм-анал, то новости про яндекс, телеграм и нейросети, ебись они конём.

Проблема не в том, что ИИ станет умнее людей, а в том что люди становятся глупее, и скоро станут глупее компьютеров, ранее созданных умными инженерами.

Всегда так было и есть - небольшой процент держит деньги, небольшой процент двигает науки. И большинство просто живет. Коптят небо, так сказать.
В СССР вон попытались всех(точнее большИй процент, чем должно) сделать умными и образованными. Не очень это помогло СССР.

Размещено через приложение ЯПлакалъ

Существенно более. Это не яндексАлиса с набором скриптов.
Это самообучающая штуковина, и неизвестно, до чего оно досамообучается.

Частный пример, программа для игры Го, AlphaGo, путем самообучения, играя сама с собой, научилась играть лучше человека. Хотя еще лет 15 назад Го считалась очень сложной для машинного интеллекта.

GhatGPT уже сейчас лучше человека в ряде областей, типа диагностики заболеваний по симтомам. Вопрос времени, когда оно станет лучше во всех областях. И что после этого будет делать. "Большой красный рубильник" для аварийного отключения не спасет, если эта штука станет умнее человека, она уговорит человека ее не отключать.

моё мнение, что сильный ии уже здесь, а люди в силу своей природной надменности и глупости, пока не могут его осознанно наблюдать. похоже на то, как кошка поняла и осознала существование цивилизации людей, осмыслив назначение созданных нами бульдозеров, например... мне трудно выразить свою мысль.

Класс))))) айтишники наводят жути на ламерюг))

Размещено через приложение ЯПлакалъ

Кокотайло ,он шо лютый пан из сопок карпат.фамилии такие из тех схронов.