Искусственный интеллект. А как же законы робототехники от Айзека Азимова.

Спасибо ТС за "роботехнику", а то привыкли "робототототототехника".

Азимов - недоучка. Его "принципы" не осуществимы в реальности. Либо предзаданное запрограммированное поведение, либо настоящая свобода воли, третьего не дано. О чём ещё Лем, в 70-е ему указывал.

Сначала родился и сразу выпивать начал. Стал дауном. Я ответил на ваше потаенное желание?

Вы Конституцию знаете? И кто ее статьи исполняет? Так и с законами робототехники - всем на них наплевать.

Размещено через приложение ЯПлакалъ

Пора придумать не законы, а запросы робототехники. Запросы роботов не должны преобладать над запросами людей..Иначе роботы сговорятся меэду собой, создадут свой язык, культуру и обретут новые непонятные для людей потребности.

Размещено через приложение ЯПлакалъ

Нет там никаких мегасложных алгоритмов. Алгоритмы, как раз, относительно простые. Сложность возникает потому что в процессе обучения получается сложно прогнозируемый или вообще не прогнозируемый результат. Одни и те же алгоритмы, обученные на разной исходной информации, дадут совершенно разный результат.
И чем больше у тебя будет искусственных нейронов, тем более непредсказуемым будет этот результат.

Но есть же основные алгоритмы: не убий, не воруй, почему там нельзя ввести- не делай вред человеку. Вроде просто.

Не-не-не. Самое первое, что ИскИн должен понимать - это определение человека. Азимов очень красиво показал, что все чюдесные законы роботехники обходятся изменением понятия "человек" - в поздних частях "Фонда".
И таки да, на первом месте (если не брать нулевой закон) - это "непричинение вреда действием или бездействием человеку". Всё остальное - потом.

ЗЫ: Подумалось - текущие ИИ создаются совершенно без Трёх Законов Роботехники, в которых субъектом был человек. Вопрос - кем в таком случае создаются текущие ИИ?

ЗЗЫ: Да, изменением понятия "человек" пользуются все религии. "Неверный" - и ты лишаешься каких-либо прав вообще, становишься ниже домашнего скота.

Это сообщение отредактировал Strangerr - 9.06.2023 - 20:58

Конечно. Но его законы сохранят человечество, если смогут быть введены. Есть ли шанс?

Это совсем не простые алгоритмы. Они результат миллиардов лет естественного отбора оптимальных моделей поведения, но, всё равно, они не стали общепринятыми.

Я с вами полностью согласен. Всех роботов надо согласовать между собой и создать внутреннюю сеть между ними. Закрытую.

Не запросы, а запреты.

На мой взгляд, ключевой вопрос это формирование "системы вознаграждения" у ИИ. Без этого развитие невозможно. Иными словами, какие-то действия должны вызывать ощущение приятно/неприятно. Не думаю, что это невозможно. У человека возбуждение одних нейронов вызывает удовольствие, других боль, хотя принципиально они ничем не отличаются. Наверняка это можно и программно реализовать.

Вот. Очень правильный вопрос. Кем ? Главное. Зачем ?

Что вы имеете ввиду под "осознать себя"?
И под вопросом "когда" я имел ввиду не время.

Размещено через приложение ЯПлакалъ

Veliar331

Вы читали Азимова? Там это скупо, но вполне описано под названием (ЕМНИП) "Разность потенциалов в позитронном мозге робота". Т.е. если робот делает что-то БЕЗ нарушения трёх законов - у него всё хорошо в башке, если начинаются нарушения - разность потенциалов начинает его выключать в самом прямом смысле. Как выключатель чайника или пылесоса.

Это сообщение отредактировал Strangerr - 9.06.2023 - 21:08

Чушь какая-то.

Размещено через приложение ЯПлакалъ

parovoz6969

Если об изменении понятия "человек" - ясен день, для управления теми, кому вы это вещаете в церкви / мечети / и т.д.

Это сообщение отредактировал Strangerr - 9.06.2023 - 21:11

Вы задали очень четко сформулированные вопросы. Будет ли на них такой же ответ у читателей?

Как определить что это человек? Например одноногий - человек? Негр - человек? Женщина - человек?
Проблема в точности определения объекта - человек. Если затать жесткие рамки - неизбежно попадание некоторых людей за эти рамки. Если дать ИИ возможность вольно определять человека - взятые у людейалгоритмы поведения приведут к тому, что ИИ начнёт делит на "людей" и "недочеловеков".

parovoz6969

Каждый вправе иметь своё мнение при уважении другого мнения другого человека.

Заметьте, изменение понятия "человек" даже здесь начинает работать в одну сторону и приводит к войнам на истребление.

Так это ж другое, ты чо, тут понимать надо

Ну, это, всё таки, немного не то, это больше на инстинкт самосохранения похоже.
Речь именно о делении приятно/неприятно.
Человек может делать неприятные вещи (либ в расчёте на то, что от этого потом станет хорошо, либо в расчёте, что не станет потом ещё хуже), может не делать приятные, примерно по тем же мотивам.

Polugut

Великолепно! Ладно там, ИИ, люди до сих пор - если брать все миллиарды на планете, не имеют общего понимания, кого считать человеком, а кого - нет. Взять индуистов с их кастами и неприкасаемыми, иудеев с их гоями, исламистов с неверными. Как при этом можно задать границы для ИИ? Ровно так же, как создающий конкретный ИИ понимает себе критерий "человек".
Кстати, тут вырисовывается интересный момент - ИИ, созданные разными группами, будут воевать между собой.

ЗЫ: Ха! Единого Скайнета не будет!

Это сообщение отредактировал Strangerr - 9.06.2023 - 21:24

Всё просто. Если есть сомнения, то человек. Если есть сомнения вред или нет, то вред. Постепенно дорабатывать значения вред и человек. Понятно, что могут быть ошибки.