Элон Маск об опасности цифрового интеллекта

[totaltelecom]

В сеть попало личное письмо CEO Tesla Элона Маска — в нём он говорит о сроках появления искусственного интеллекта, угрожающего человечеству. Обращение было написано в ответ на пост специалиста по виртуальной реальности Ярона Ланье (Jaron Lanier) «Мифы об искусственном интеллекте», который опубликован на сайте литературного агента Джона Брокмана (John Brockman). Там же появилось и письмо: оно, по словам пресс-секретаря Маска, не должно было стать публичным. До удаления оригинала пользователи Reddit успели сделать его скриншот.

"Риск серьёзных инцидентов, которые произойдут по вине искусственного интеллекта, очень велик. Это случится в течение пяти, максимум десяти лет. Обратите внимание на то, что я специалист в технологиях. Об этой проблеме я не говорил до последних месяцев. Так что это не тот случай, когда кто-то кричит о волке или говорит о том, в чём совершенно не разбирается".

«Искусственный интеллект прогрессирует очень стремительно. Вы понятия не имеете, насколько. Это происходит по экспоненте»

"Я не единственный, кто уверен, что мы должны волноваться об этом. Ведущие компании, которые занимаются искусственным интеллектом, сейчас предпринимают шаги, чтобы обеспечить безопасность. Они прекрасно понимают, насколько всё серьёзно. Компании верят, что они всё урегулируют, смогут держать цифровой суперинтеллект под контролем и не допустят, чтобы его неудачные образцы попали в интернет. Что ж, посмотрим".

Источник

Comments

[dgies.livejournal.com]

Уж не говоря о фантастике со времен Франкенштейна и пр. гомункулюсов, тема била ключом уже лет 20 назад. Нейросети, ах-ах. Но очень быстро рассосалось. В том крайне узком сегменте, который я имею возможность наблюдать до сих пор, все эти надежды и притязания оказались тщетными. Поскольку мы не понимаем, как оценивает наш мозг даже формальные задачи-ситуации, и как он принимает решения, то всякого рода ИИ мы по-прежнему можем только прописать алгоритм в... э-э... скриптах. Ручками. На уровне если-то. А что пропишешь - то и пожнешь. Отсюда и все эти страшилки. _Сам_ тн ИИ никаких оценок и решений до сих пор осуществлять не в состоянии. Это все, типо, сваливание с больной головы на отсутствие (всадника без ;) головы. Впрочем, ни в коем разе не эксперт.

[totaltelecom.livejournal.com]

Если верить ailev мейнстрим развития ИИ лежит не в плоскости воспроизводства мышление индивида нашего вида, а в накоплении критической массы успешных алгоритмов решения частных задач. Очень рекомендую его бложек - освежает.

http://ailev.livejournal.com/1146950.html

http://ailev.livejournal.com/1146390.html

http://ailev.livejournal.com/1145962.html

http://ailev.livejournal.com/1144816.html

http://www.slideshare.net/ailev/ss-40694356

[dgies.livejournal.com]

Ага, спасибо, посмотрел по диагонали. За роялем то же ;) "Гуманитариям" и "инженерам" не сойтись никогда. В свое время я долго следил за Щегловым http://schegloff.livejournal.com/, пока не дошло, что он понятия не имеет, _что именно_ он надеется воспроизвести/создать аналог. Перебор алгоритмов (скриптов) для "Роботам ведь не нужно быть разумными, роботам нужно уметь решать нужный (кому-то и для чего-то) набор задач" - это, знаете ли... не, я лучше помолчу ;) Кому-то и для чего-то, именно ;) Но при чем тут "интеллект"?

[totaltelecom.livejournal.com]

Советую всё таки найти время и прочитать внимательно.