Искусственный интеллект может стать опасным если обретёт сознание
Многие люди, находящиеся под влиянием таких фильмов, как «Терминатор» или «Матрица», думают, что настоящий искусственный интеллект — технология, позволяющая роботам или компьютерам обрести независимость, может быть опасной. Разработчики ИИ уже обсуждают, как установить ограничения на будущие «мыслящие машины», чтобы они всегда действовали в интересах человечества. Консультант по искусственному интеллекту Мэтью Кершоу сказал Daily Star, возможно, что технология достигнет опасных высот при жизни самых молодых из нас. «Это может случится при нашей жизни», — говорит он, добавляя: «Если вы достаточно молоды!».
Его комментарии последовали после того, как профессор Стивен Хокинг, которого многие считают величайшим научным гением современной эпохи, предупредил: «Примитивные формы искусственного интеллекта, которые у нас уже есть, оказались очень полезными. Но я думаю, что создание полноценного искусственного интеллекта может означать конец человечества». Между тем, предприниматель SpaceX Илон Маск соглашается с ним, говоря: «Я думаю, что мы должны быть очень осторожны с искусственным интеллектом. Если бы мне пришлось угадывать, в чем заключается самая большая угроза нашему существованию, вероятно, так оно и было. Поэтому нам нужно быть очень осторожными».
Но Мэтью говорит, что для истинного общего ИИ потребуются компьютеры, достаточно мощные, чтобы удерживать всеобъемлющую модель мира, «что не скоро появится». Учитывая, что мы действительно не понимаем, что значит быть сознательными, я думаю, маловероятно, что общий ИИ станет реальностью в ближайшее время», — добавляет он. «Мы просто не знаем, что на самом деле означает быть «сознательными». Мэтью говорит, что, хотя существующий ограниченный ИИ позволяет компьютерам делать невероятные вещи, они все еще не учатся так хорошо, как дети: «Человеческому ребенку не нужно видеть более пяти машин, чтобы научиться распознавать машину. Компьютеру нужно будет увидеть тысячи".
Искусственный интеллект, обладающий самосознанием, который мы видим в фильмах вроде «Звездных войн» и «Мира Дикого Запада», не является чем-то новым в научной фантастике. Еще в 1920 году пьеса Карела Чапека «R.U.R.» предсказывала восстание роботов. Но то, что ученые называют «общим искусственным интеллектом», пока остается научной мечтой. Робонавт, робот-космонавт, установленный НАСА на Международной космической станции в 2011 году, сломался, и его пришлось вернуть на Землю после того, как астронавты изо всех сил пытались подключить ему ноги. В 1950 году пионер вычислительной техники Алан Тьюринг разработал тест, чтобы определить, может ли искусственный интеллект сойти за человека. Пока что ни одна система искусственного интеллекта не прошла его, хотя некоторые из них были близки.
Пожалуй, самое близкое было в 2018 году, когда Duplex AI от Google позвонил в парикмахерскую и успешно договорился о встрече. Но, как и надоедливые автоматические системы, которые отвечают на звонки, когда вы пытаетесь забронировать билет в кино, Duplex AI работал над очень конкретной задачей. Настоящий общий ИИ мог бы продолжить беседу с парикмахером о том, куда он собирается на каникулы. В наши дни искусственный интеллект присутствует повсюду — в системах автономного оружия, в беспилотных автомобилях и даже в зубных щетках. Но хотя эти системы нечеловечески хороши в предназначенных для них задачах, ни одна из них пока не может научиться делать что-то другое без помощи человека. Согласно опросам, большинство экспертов по искусственному интеллекту говорят, что к концу этого столетия мы увидим всеобщий искусственный интеллект. По самым оптимистичным оценкам, это около 2040 года, в то время как некоторые эксперты называют дату где-то 2080-е годы.
Но даже это может быть немного излишне оптимистичным. Пионер ИИ Герберт Саймон еще в 1965 году предсказал, что «в течение двадцати лет машины будут способны выполнять любую работу, которую может выполнять человек». Многие ученые мужи говорят, что истинное искусственное сознание никогда не будет достигнуто, потому что мы не полностью понимаем свое собственное. Отходя от чистой науки к чему-то вроде мистицизма, многие ученые говорят, что человеческий разум не зависит от физического мозга. Анил Сет из Университета Сассекса предполагает, что человеческое сознание может быть «независимым от субстрата» — что оно представляет собой нечто большее, чем просто клетки мозга, которые оно занимает. Фил Магуайр из Национального университета Ирландии сказал New Scientist: «Машины состоят из компонентов, которые можно анализировать независимо. Они дезинтегрированы. Дезинтегрированные системы можно понять, не прибегая к интерпретации сознания».
