Предсказал будущее интернета в 90-ых и пропал, когда его прогнозы стали сбываться: история Филипа Агре

Исследователь рассказал об опасности сбора данных ещё до запуска Google и Amazon, поставил под сомнение этичность работы над искусственным интеллектом и предсказал китайскую систему рейтинга.

6 фото + текст

Детство и образование

Год рождения Агре неизвестен. Он писал, что его детство прошло в штате Мэриленд на востоке США, где местный психолог «превратил его в математического вундеркинда».

Родители рано отправили его в колледж, из-за чего отношения с ними испортились, рассказал The Washington Post один из его друзей. Как рассказывал Агре, он изучал математику, но перешёл на компьютерные науки: они были интереснее и помогали зарабатывать, чтобы оплатить кредит за учёбу.

В колледже от него не требовали посещать гуманитарные курсы. Но когда будущий учёный поступил в аспирантуру MIT, понял, что у него есть знания только по техническим дисциплинам. Чтобы исправить это, Агре ушёл на год в академический отпуск.

"Я потратил год на путешествия и чтение, пытаясь самостоятельно стать образованным человеком." Филип Агре

В отпуске ему захотелось взглянуть на развитие технологий с точки зрения философии, социологии и других гуманитарных наук. Он начал «бунтовать против своей профессии», пишет The Washington Post.

В 1989 году Агре получил степень доктора компьютерных наук в MIT за диссертацию в области ИИ. Он преподавал в Чикагском университете, Университете Сассекса, а с 1998 года работал в Калифорнийском университете в Лос-Анджелесе.

Работы и прогнозы

В библиографии исследователя как минимум 32 публикации, которые он выпускал в период с 1982 по 2004 год. В середине 1990-х Агре был автором почтовой рассылки Red Rock Eaters News Service в формате, схожем с блогом. Он обозревал новости интернета, отправлял подписчикам свои статьи и отрывки из книг. Блог читали 4000 человек в 60 странах.

В своих работах учёный анализировал, как технологии повлияют на общество. Некоторые его идеи стали реальностью.

Корпорации и сбор данных

В 1994 году Агре опубликовал статью «Наблюдение и захват» про проблему конфиденциальности при развитии технологий. Ещё до запуска Amazon, Google и Facebook исследователь предсказал, что в будущем компьютеры будут собирать данные обо всём в обществе, но люди проигнорируют это.

Он считал, что в мире не появится единый «большой брат», который будет контролировать всю информацию. Вместо этого массовым сбором данных займётся множество организаций, и у каждой будут свои цели: они будут оценивать активность людей, их предпочтения и прочее.

Критика ИИ

В статье «К критической технической практике: Уроки, извлечённые при попытке реформировать ИИ» 1997 года Агре указал на одну из главных проблем области ИИ — учёные не хотят прислушиваться к критике их деятельности со стороны.

Он писал, что учёные работают над технической частью и забывают про всё остальное. По его мнению, ИИ — не самостоятельная дисциплина, её нельзя изучить в отрыве от окружающего мира, а также этики, философии, социологии и других наук.

То, о чём говорил Агре ещё в 1997 году, актуально для индустрии спустя более чем 20 лет, пишет The Washington Post. В декабре 2020 года Google уволила специалиста в области ИИ Тимнит Гебру после статьи с критикой технологии. Позже штатные учёные компании заявили, что Google попросила их писать об ИИ в «позитивном ключе».


Тимнит Гебру потеряла работу из-за вопросов, которые поднял Агре ещё в 1997 году

Распознавание лиц и тоталитаризм

В 2001 году Агре выпустил статью под названием «Твоё лицо — это не штрих-код: Аргументы против автоматического распознавания лиц в общественных местах». Он критиковал развитие технологий наблюдения на Западе и спрогнозировал, что в будущем они появятся также и в тоталитарных и авторитарных странах.

Агре аргументировал свою позицию так:

- Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.

- Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.

- Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.

- Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.

- Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

"Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют. Через 20 лет китайское правительство сможет использовать распознавание лиц для слежки за людьми в общественных местах." Филип Агре

С 2016 года в Китае запустили тотальную систему распознавания лиц. В ней данные со всех камер наблюдений анализирует ИИ, а потом составляет систему социального рейтинга. Людям с низким рейтингом нельзя, например, устраиваться на работу в госучреждения или покупать билеты на самолёт.

Спустя почти 20 лет после прогноза Агре технологию распознавания лиц внедрили в Китае

Это сообщение отредактировал ForbiddenDW - 26.09.2021 - 00:30

Уход из публичного поля

В период, когда Агре писал статьи, его прогнозы не были популярными, говорят друзья и коллеги учёного. Интерес к работам исследователя появился, когда описанные им идеи стали претворяться в реальность. К тому моменту он уже успел разочароваться в своей деятельности.

"Мы живём в мире, который сформировался из-за игнорирования таких людей, как Фил." Марк Ротенберг, основатель Center for AI and Digital Policy, бывший коллега Агре

Последней опубликованной научной работой Агре стала вышедшая в 2004 году глава «Социальные навыки и развитие гражданской позиции» в книге Эндрю Финберга и Дарина Барни «Сообщество в цифровую эпоху».

В 2009 году Филип Агре без предупреждения перестал ходить на работу в университет и с тех пор не появлялся у себя в квартире. Сестра Агре потеряла связь с ним в декабре 2008 года. По её словам, у учёного было биполярное расстройство.

Друзья, коллеги и родственники объявили его пропавшим без вести и подали заявление в полицию в октябре 2009 года. Они также создали сайт, на котором опубликовали обращённые к нему письма благодарности и просьбы выйти на связь.

В январе 2010 года полиция Лос-Анджелеса сообщила, что нашла Агре в адекватном состоянии. О том, где он был несколько месяцев и что делал, правоохранители не сообщили. С тех пор исследователь ни разу не появлялся на публике.

Друзья и коллеги Агре рассказывали, что его последним проектом должна была стать «Библия интернета» — история сети с самого начала. Исследователь так и не завершил эту работу. После исчезновения Агре его коллеги хотели собрать коллекцию его статей, но он связался с ними и попросил этого не делать.

«То, о чём Фил писал в 1990-х, сегодня обсуждается так, как будто это новые идеи... Он, конечно, был разочарован, что не встретил понимания. Но такова судьба людей, которые на поколение опережают самих себя», — сказала в разговоре с The Washington Post профессор Калифорнийского университета и коллега Агре Кристин Боргман.

"По-настоящему тревожные события могут показаться не такими уж плохими только потому, что они лучше ужасов антиутопий Оруэлла." Филип Агре

Одна из фотографий Агре, которую использовали при его поисках

Источник

Это сообщение отредактировал ForbiddenDW - 26.09.2021 - 00:32

Интересный товарищ. Не знал о нем. Было позновательно.

Так вот кто всё им подсказал..


Это сообщение отредактировал 1Set1 - 26.09.2021 - 00:48

Вальнули чувака, к бабке не ходи. Явно раскопал что-то что не предназначено для просмотра посторонними и разглашению.

Мне кажется какие-то очень умственно/отвлечённые страхи.
Конфиденциальность/неконфидициальность.....
Китай, ИИ.
...
В СССР при определенных условиях хуева туча народа была 'полна" попрана в правах.
И ни чего страшного.
Без всяких интелектов, на основании постановления когототам....
...
Я, лично не вижу проблем в подобной прозрачности в 21 веке в нормальных странах.

Деньги электронные.
Страховка, права, техконтроль в одной бумажке.
Или вообще у ментов в компьютере, чем я пользуюсь.
Езжу без бумажных документов.
Если тормозят и задают вопрос говорю, я такие налоги вваливаю со своих денег, что не желаю думать куда бумажка запропастилась.
Один хуй, в 3 секунду меня найдете...)
А так как этилотест отрицательный, машина застрахована, техосмотр пройден местным гайшеикам в хуй не уперлось разбираться с 53 летним дураком почему у него права/техпаспорт не при себе.

Зарплата учтена и белая, случись чего государство вмешивается в личную жизнь человека платя ему пособие....
...
Честно если текст для очень и чересчур умных.
А на практике всё иначе.

Можно хоть одну причину для минуса материализовать?
Заранее спасибо.

Размещено через приложение ЯПлакалъ

Всё это предсказали писатели-фантасты ещё задолго до него и появления интернета вообще.

Да они и сам интернет предсказали.

Товарищ стал неудобен и пропал




Это сообщение отредактировал GaDdisigner - 26.09.2021 - 00:44

Блин, 53 года, а мысли свои внятно излагать не научился. Я сквозь твои словесные дебри с великим трудом продрался и всё равно ни фига не понял.

Не исключено, что за ним "присматривали" и предлагали сотрудничество.

. Система тотального контроля - это система не оставляющая шансов. Будешь есть то что тебе скажут, одеваться в то что скажут, будешь говорить что скажут и т.д. потому что как только узнают что ты ешь не то, говоришь не то и одеваешься не в то - сразу будешь поражен в гражданских правах (см.Социальный рейтинг). Понятное дело что все сложнее, это так, для примера

Средним пальцем тыкаю...
Смысл в том, что я не вижу ни одной причины опасаться "прозрачности" своего существования.
Ибо не обладаю манией гигантомании и понимаю что никому до меня нет никаких дел.


Размещено через приложение ЯПлакалъ

Ну да, ну да, пошёл я нахуй

Тебя устраивает ограничение свободы воли, свободы выбора? Чтобы к тебе относились как к бандерлогу, а не человеку.

Да сидит на одной из точек ЦРУ или АНБ. Под веществами. Делает, что велят. Его анализируют. Он не пропал. Он стал частью того, от чего предостерегал. Ну или пытался это сделать.

Схуяль?
Вино покупаю у местной винодельши....)

Дрова у местного лесоруба.
Шмотки люблю Мальборо классик.
Тарюсь в интернете.

Мясо в зависимости от дохода.
Или по 5 евроф в обжираловке для нищих типа Лидл, Алди и прочие гадюшники, либо если есть немного денег покупаю в местной деревенской лавке отличной немороженной ягнятиной по 18 евро кило...)
То, что я говорю это ваапше всем до пизды.
Ну, может минусов наставят на ЯПе....)
Но заводиться от этого не стоит.
И впадать в ужас от теории заговора из-за пару тыщ минусов на ЯПе тоже лишнее.



Размещено через приложение ЯПлакалъ

Мы уйдем в горы и джунгли. Мы создадим общины. Нас будут преследовать и уничтожать, но мы выживем и оставим за собой право на свободу....

Для меня единственная свобода эта добавочной стоимость, а так же то что в деревне рядом с домом начинают делать фабрику электромашин...)
Жилье растет по цене.
...
А чем больше будет стоить жильё, тем больше свобода выбора на пенсии!

Всегда недовольные прозрачностью своей жизни блеют в гос организациях, когда теряют работу и начинается беготня с правом на пособия...
Это факт.

Размещено через приложение ЯПлакалъ

скажи публично, что флойд по жизни был наркотом и мудаком

Я, лично не вижу проблем в подобной прозрачности в 21 веке в нормальных странах.
Вы уважаемый целый кусок пропустили,по диагонали читали?)
- Технологию можно использовать для отслеживания людей в любом месте. Эти данные могут попасть в руки преступников или применяться для ужесточения государственного контроля.

- Данные с камер можно объединить с другой информацией, например, отпечатками пальцев.

- Без высококачественных фотографий поиск террористов и преступников по камерам с помощью ИИ малоэффективен.

- Коммерческие организации смогут узнавать граждан по лицам и получат доступ к данным об их финансах и социальном положении.

- Наблюдение будет не добровольным: граждане не будут знать о нём и не смогут отказаться, так как камеры появятся в госучреждениях и общественных местах.

"Если технологии распознавания лиц внедрят в странах, где гражданские свободы относительно сильны, их позже будут применять в странах, где они практически отсутствуют.