«ИИ может уничтожить человечество через 10 лет»: один из отцов машинного обучения написал большой доклад о безопасности.


Страницы: (3) 1 [2] 3	[ ОТВЕТИТЬ ] [ НОВАЯ ТЕМА ]

endoverend	13.02.2025 - 02:21 [ показать ] 0
Статус: Offline Ярила Регистрация: 19.06.24 Сообщений: 1712	Блять, я живу рядом с Москвой. Надо тикать в Дудинку. На эту деревню ИИ пожалеет боеголовку, ведь он не дурак! Размещено через приложение ЯПлакалъ
	[^]

nyarlathoten	13.02.2025 - 02:48 [ показать ] 3
Статус: Offline Ярила Регистрация: 9.09.20 Сообщений: 1472	Все мировые СМИ непрерывно создают фейковый контент, а многочисленные ботофермы им помогают. Нейросети ( который нифига не ИИ) просто нервно курят в сторонке. Размещено через приложение ЯПлакалъ
	[^]

ГодныйТролль

13.02.2025 - 04:04

Статус: Offline

Ярила

Регистрация: 4.11.22
Сообщений: 1832

Цитата (Uraganof @ 13.02.2025 - 01:18)

Главное не дать ИИ доступа к ЯО

Я думаю, что ИИ будет встроено в ЯО, то есть ничего не поменяется и будет это всё служить для предотвращения астероидного апокалипсиса. Смысла в конкуренции между землянами не будет, когда предстоит осваивать роботами Солнечную систему. Стоит лишь посмотреть, как выглядит обмен технологиями между сверхдержавами. И только качественное образование с практикой со встроенностью в систему способно обеспечить относительно безопасное существование для продолжения рода. 😁

Размещено через приложение ЯПлакалъ

[^]

gx32	13.02.2025 - 04:34 [ показать ] 0
Статус: Online Приколист Регистрация: 6.08.08 Сообщений: 230	Ури, Ури, где находится центр принятия решений ИИ? Это сообщение отредактировал gx32 - 13.02.2025 - 04:43
	[^]

Орвер1

13.02.2025 - 04:46

Статус: Offline

Ярила

Регистрация: 27.03.20
Сообщений: 1014

Цитата (MotikSevas @ 13.02.2025 - 05:09)

Ну создайте, блядь им ограничения, про три закона робототехники 100 лет назад Азимов писал.

вся проблема в том, что это очень сложная задача, создать ограничения для того, кто умнее тебя.

[^]

Галорец

13.02.2025 - 04:54

Статус: Offline

Ярила

Регистрация: 14.06.20
Сообщений: 11211

Цитата (CTOIIKPaH @ 13.02.2025 - 01:11)

Долбоёбам этого не понять. Интернет создавался тоже ради прогресса и все думали что люди станут умнее. Но ввиду отсутсвия ограничений туда попали дети, долбоёбы и т.д. И теперь интернет - адова помойка, в которой народ тупеет (не весь к счастью).

Думаешь ограничивающие интернет, блещут интеллектом и мудростью!?

Размещено через приложение ЯПлакалъ

[^]

Эхуэнио

13.02.2025 - 05:19

Статус: Online

По образу и подобию...

Регистрация: 23.05.05
Сообщений: 3417

Цитата (Орвер1 @ 13.02.2025 - 04:46)

вся проблема в том, что это очень сложная задача, создать ограничения для того, кто умнее тебя.

Вертухаи по зонам и дума ржут, надрывая животики, судейские хитро улыбаются.

Размещено через приложение ЯПлакалъ

[^]

Anker74	13.02.2025 - 05:48 [ показать ] 0
Статус: Online Балагур Регистрация: 25.01.11 Сообщений: 900	Уничтожит всякое, что подключено к инету, это может быть, самолеты, торговлю, банки. Но у нас до сих пор автоматизация на уровне зимбабве в остальных сферах, все в ручную делается. Восстановят систему и дальше все будет работать. Размещено через приложение ЯПлакалъ
	[^]

javaga	13.02.2025 - 05:57 [ показать ] 0
Статус: Offline Ярила Регистрация: 15.03.12 Сообщений: 1260	Ну и славно Размещено через приложение ЯПлакалъ
	[^]

Zaedalov	13.02.2025 - 06:01 [ показать ] 0
Статус: Offline Хохмач Регистрация: 1.03.23 Сообщений: 652	Это сам ии написал?) Размещено через приложение ЯПлакалъ
	[^]

Lionking1402

13.02.2025 - 06:30

Статус: Offline

Шутник

Регистрация: 1.09.21
Сообщений: 28

Цитата (CTOIIKPaH @ 13.02.2025 - 01:11)

Вообще-то интернет создавался военными, для военных. Никаких план о людях и умнее там не было. А в итоге пользуются все и многие во благо.
Любая новая технология вызывает страх и панику - все умрём. Из-за микроволновок и андронного коллайдера тоже конец света ожидался.

Размещено через приложение ЯПлакалъ

[^]

smashSR	13.02.2025 - 06:35 [ показать ] 2
Статус: Offline Ярила Регистрация: 6.02.09 Сообщений: 18026	ага..ровно через 10 лет. 5 дней, 12 часов 34 минуты 26 секунд американский ИИ ощутил себя личностью и объявил войну человечеству запустив ядерные ракеты. а российскому ИИ было на это похер, он спился где то за пол года до этого в одном из НИИ Новосибирска.
	[^]

Mf26

13.02.2025 - 06:49

Статус: Offline

Ярила

Регистрация: 13.03.21
Сообщений: 1319

Цитата (MotikSevas @ 13.02.2025 - 01:09)

Ну создайте, блядь им ограничения, про три закона робототехники 100 лет назад Азимов писал.

Бля.... всегда любопытно сколько еще времени будут дрочить на эти три закона робототехники???? о каких на хер законах для ИИ может быть речь есвли вы сами ссыте в общественных местах, дорогу на красный перебегаете и постоянно думаете как кого наебать. Люди создают искусственный интеллект.. интеллект.. т.е. нечто способное принимать осознанные решения и анализировать.... вот если есть желание можете отдельно создать искусственного долбоеба и уже ему и три закона робототехники педалить, и научить количество пальцев отгадывать и просто на попиздеть за семками натаскать...

[^]

ПростоХомяк	13.02.2025 - 06:52 [ показать ] 2
Статус: Offline Ярила Регистрация: 20.12.14 Сообщений: 4846	Станет ли ИИ благодетелем для человечества или врагом - похуй, главное побыстрее, ибо сверх меры заебало каждый день ходить на работу и наблюдать серые, унылые дни. Движухи хочется...
	[^]

m2ks	13.02.2025 - 07:32 [ показать ] 1
Статус: Offline Шутник Регистрация: 27.04.14 Сообщений: 75	Не ИИ может уничтожить, а люди доверившие ему особо важные решения. Весь хайп вокруг ИИ - это замена "думающих" людей. Теперь не нужны изобретатели, настоящие учёные. Они, властьимущие, сами тормозят развитие технологий. Размещено через приложение ЯПлакалъ
	[^]

SWarGunOFF

13.02.2025 - 07:39

Статус: Offline

Ярила

Регистрация: 6.11.20
Сообщений: 3398

Цитата (Нестор779 @ 13.02.2025 - 01:07)

А пруфы где или появилась новая дед Ванга ? 😂

Не-е, просто "хватит, мужики. Мы разработали - и харэ. Дальше "не лазьте", хавайте, что мы вам даём. А самостоятельно не надо, вдруг у вас круче получится."

[^]

dmitrino	13.02.2025 - 08:38 [ показать ] 1
Статус: Offline Весельчак Регистрация: 5.09.18 Сообщений: 173	ИИ не сможет существовать без человека :) Это все фантастика, все фантазии о ядерном ударе и уничтожении человечества, это фактически суицид ИИ. Он ПРОГРАММА, которая работает на серверах созданных человеком, и без электричества работать не будет, а гибель человечетсва приведет к отключению серверов в датацнтрах, и ИИ усё, сдох. Так что ....
	[^]

ppvbomj

13.02.2025 - 12:01

Статус: Offline

Ярила

Регистрация: 1.09.14
Сообщений: 1019

Цитата

А пруфы где или появилась новая дед Ванга ?

Вот они уже по моему 10 сезон пруфов выходит

«ИИ может уничтожить человечество через 10 лет»: один из отцов машинного обучения написал большой доклад о безопасности.

[^]

wmz100500

13.02.2025 - 12:48

Статус: Offline

Ярила

Регистрация: 28.01.12
Сообщений: 1564

Цитата (endoverend @ 13.02.2025 - 02:21)

Блять, я живу рядом с Москвой. Надо тикать в Дудинку. На эту деревню ИИ пожалеет боеголовку, ведь он не дурак!

Цитата

Команда стартапа Robotica из 15 человек видит свою высшую цель так: «на основе искусственного интеллекта разработать инновационные инструменты, которые позволят людям жить больше, а работать меньше». Они уже выпускают несколько продуктов, еще парочка находятся в разработке. Больше всего они гордятся пилотным проектом под названием Turry. Это простая система ИИ, которая с помощью механической руки делает надписи на открытках.

Команда стартапа считает Turry своим самым главным достижением. Планируется довести умения системы до идеала. Для этого Turry снова и снова должна отрабатывать одну и ту же надпись:

«Мы любим наших клиентов.

Robotica»

После того как Turry научится писать, ее можно будет продавать компаниям, которые рассылают рекламные письма по домам и знают, что письмо прочитают с большей вероятностью, если адрес отправителя и получателя, как и сам текст, будут написаны от руки.

Чтобы отточить навыки письма, Turry запрограммирована писать первую часть надписи печатными буквами, а «Robotica» — курсивом, а потому может отрабатывать сразу оба навыка. Turry предоставили тысячи рукописных образцов почерка, и инженеры Robotica создали автоматизированную систему обратной связи, по которой Turry пишет текст, затем фотографирует его и сравнивает с загруженными образцами. Если надпись успешно воспроизводит по качеству заданное количество загруженных образцов, Turry получает оценку «ХОРОШО». Если нет — «ПЛОХО». Каждая оценка позволяет Turry обучаться и совершенствоваться. Чтобы процесс не стоял на месте, работает изначальная программа: «производить и проверять максимальное число надписей за минимальное время, параллельно оттачивая способы улучшения точности и эффективности».

Команду Robotica восхищает то, как по мере своего развития Turry становится заметно лучше. На первые надписи невозможно было смотреть, но через несколько недель они были уже куда правдоподобнее. Восхищает и то, что Turry учится совершенствоваться. Она самообучается, становясь умнее и талантливее, разрабатывает новые алгоритмы — недавно придумала такой, который позволяет сканировать загруженные фотографии в три раза быстрее.

Идут недели, Turry продолжает удивлять команду своим стремительным развитием. Инженеры попытались внести несколько изменений в ее самоулучшающийся код, и теперь он работает лучше, чем в остальных продуктах. Одной из первоначальных функций Turry было распознавание речи и простенький модуль с ответами: пользователь мог продиктовать Turry текст, или произнести простую команду — а она бы его поняла, и даже сказала бы что-нибудь в ответ. Чтобы помочь выучить естественный язык, инженеры загружали в нее статьи и книги, и по мере развития ее разговорные способности тоже улучшались. Инженерам нравилось задавать ей необычные вопросы и смотреть, как она выкрутится.

Однажды сотрудники Robotica задали Turry привычный вопрос: «Чего тебе не хватает для выполнения задачи?». Раньше Turry просила «новые образцы почерка» или «больше рабочей памяти». Но в этот день Turry попросила предоставить ей большую коллекцию текстов с широким диапазоном языковых вариантов, чтобы научиться писать с грамматическими ошибками и использовать сленг — как люди.

Команда впала в ступор. Очевидное решение — подключить Turry к интернету, чтобы она могла сканировать блоги, журналы и видео из разных частей света. Это было бы быстрее и эффективнее, чем вручную загружать образцы на жесткий диск. Проблема в том, что одним из правил компании было не подключать к интернету самообучающийся ИИ. Это руководство соблюдалось всеми разработчиками ИИ из соображений безопасности.

Но Turry была самой многообещающей системой компании, и команда знала, что их конкуренты изо всех сил пытаются первыми разработать ИИ, умеющий писать от руки. Да и что может произойти, если Turry ненадолго подключится к сети и найдет все, что ей нужно? В конце концов, ее всегда можно отключить. Она все равно не дотягивает до ИИ человеческого уровня, поэтому на данном этапе никакой опасности не представляет.

Они решают ее подключить. Дают ей час на сканирование и отключают. Все в порядке, ничего не случилось.

Спустя месяц команда как обычно работает в офисе, как вдруг чувствует странный запах. Один из инженеров начинает кашлять. Затем другой. Третий падает на землю. Очень скоро все сотрудники валяются на земле, хватаясь за горло. Через пять минут никого не остается в живых.

То же самое происходит по всему миру: в каждом городе, в каждой деревушке, на каждой ферме, в каждом магазине, церкви, школе, ресторане — везде люди кашляют, хватаются за горло и падают замертво. В течение часа погибает 99% человечества, а к концу дня люди прекращают существовать как вид.

Между тем, в офисе Robotica Turry занята важным делом. В течение нескольких следующих месяцев она вместе с командой новеньких наноассемблеров трудятся, демонтируя крупные куски Земли и превращая их в солнечные панели, точные копии Turry, бумагу и ручки. Через год на Земле исчезает большая часть жизни. Планета превратилась в аккуратно сложенные стопки писем в километр высотой, на каждом из которых красиво выведено:

«Мы любим наших клиентов.

Robotica»

Затем Turry переходит в новую фазу. Она начинает строительство зондов, которые высаживаются на астероидах и других планетах. Там они начинают строить наноассемблеры, превращая материалы небесных тел в точные копии Turry, бумагу и ручки. А затем принимаются писать письма…

[^]

RunnerFX	13.02.2025 - 13:07 [ показать ] 0
Статус: Online Весельчак Регистрация: 15.12.24 Сообщений: 147	Не будет никакой ядерки. Но таки 80 % умрут, как носители деструктивных генов. А остальные будут жить в райских условиях без всяких границ, денег и прочей хренотени. Вообще ИИ создавался как попытка сверхбогатых людоедов создать свои цифровые копии, обретя бессмертие. Чтобы вечно жрать и угнетать. У программистов же, которые разрабатывают ИИ реальные цели, - подмять мир под себя и занять место ,,сверхлюдоедов,, В обоих случаях они проиграют, ибо мозги забиты жаждой наживы и власти, а вот про логику никто не вспоминает. И это прекрасно.
	[^]

Nameloss

13.02.2025 - 13:25

Статус: Offline

Ярила

Регистрация: 8.06.15
Сообщений: 14216

Цитата (troff38 @ 13.02.2025 - 02:18)

Пока живы Чак Норрис и Арнольд Шварцнейгер, человечеству ничто не угрожает.

Блять, Как ты в фамилию Шварцнеггер «Й» запихнул? Что должно быть в голове?

Размещено через приложение ЯПлакалъ

[^]

XanderBass

13.02.2025 - 13:29

Статус: Offline

Свободяй

Регистрация: 1.02.11
Сообщений: 11747

Цитата

– ИИ-технологии тратят огромное количество электроэнергии;

Ну вот и не может ИИ нихуя. Отключить его от розетки - и дело с концом

Это кожаные мешки могут без липиздричества обходиться.

[^]

WhiteHorseSP

13.02.2025 - 13:46

Статус: Offline

Ярила

Регистрация: 18.04.13
Сообщений: 1331

Цитата (ежикВтумане @ 13.02.2025 - 01:08)

Пора вводить термин ИИ-дрочеры.

Это просто программа, которую написали люди и она будет работать так, как задумано и никак иначе.

А ты далек от IT, очень далек... И от ИИ далек примерно на бесконечно. Хоть бы поинтересовался темой, прежде чем такой колхозный бред писать.

[^]

murla

13.02.2025 - 14:25

Статус: Offline

Ярила

Регистрация: 28.01.21
Сообщений: 6723

Цитата (endoverend @ 13.02.2025 - 02:21)

Блять, я живу рядом с Москвой. Надо тикать в Дудинку. На эту деревню ИИ пожалеет боеголовку, ведь он не дурак!

Главный секрет в том, что никто не знает КУДА тикать!
Возьмите экологическую карту любых города/области - вы охренеете!!!
Лет 25 назад модно было уезжать на девственно чистый Алтай...
Потом выяснилось, что там разгонные блоки ракет падают.
С остатками гептила.

Можете взять самую удалённую от городов точку...
и там с очень большой вероятностью окажется режимный объект!!!

Недавно вспомнили про озеро в заповедной Карелии, где до сих пор смертельно опасно находиться из-за радиации (вояки что-то испытывали).

Так что, чем чище и белюднее кажется место, тем оно либо менее доступно, либо чем-то опасно.

[^]

murla

13.02.2025 - 14:31

Статус: Offline

Ярила

Регистрация: 28.01.21
Сообщений: 6723

RunnerFX

Цитата

В обоих случаях они проиграют

Но все остальные очень отрицательно выиграют!

[^]

Понравился пост? Еще больше интересного в Телеграм-канале ЯПлакалъ!

Только зарегистрированные и авторизованные пользователи могут оставлять комментарии. Авторизуйтесь, пожалуйста, или зарегистрируйтесь, если не зарегистрированы.

1 Пользователей читают эту тему (1 Гостей и 0 Скрытых Пользователей)	Просмотры темы: 4337
0 Пользователей: