Превращение искусственного интеллекта в оружие — самая большая опасность, еще в 1984 году давал понять режиссер Джеймс Кэмерон, сняв фильм «Терминатор».
А ведь Терминатор предупреждал…
Американский актёр Арнольд Шварценеггер заявил, что фильм «Терминатор», в котором он снимался, предсказал будущее человечества, сообщает Fox News. В киноленте, премьера которой состоялась ещё в 1984 году, рассказывается об обладающем самосознанием искусственном интеллекте, который решил уничтожить людей. «За прошедшие десятилетия это стало реальностью», — считает Шварценеггер. Хотя будущее, показанное в фильме, пока ещё в полной мере не наступило, актёр утверждает, что развитие искусственного интеллекта достигло такой точки, которая очень близка к тому, что показал режиссёр Джеймс Кэмерон. «Сегодня всех пугает, как будет всё дальше развиваться. И в «Терминаторе» мы рассказываем о том, как машины обрели самосознание и захватили власть… Это больше не вымысел или фантастика. Это происходит сегодня».
С мнением Железного Арни частично согласен и предприниматель-миллиардер Илон Маск: «Можно считать, что мы находимся на горизонте событий чёрной дыры, которой является искусственный суперинтеллект». И всё же Маск считает, что ИИ не уничтожит всё человечество, но может взять людей «под жёсткий контроль». При этом миллиардер полностью не исключает и того, что сюжет «Терминатора» может действительно сбыться.
Обсуждают в СМИ и высказывание Кэмерона об искусственном интеллекте (ИИ). Как известно, бастующие гильдии американских сценаристов и актеров среди прочего выдвигают и одно общее требование: не допустить замены их деятельности искусственным интеллектом. Так вот, автор «Терминатора» сказал следующее: «Я вас, ребята, предупреждал еще в 1984 году, а вы не послушались. А зря. Превращение ИИ в оружие — самая большая опасность. Нас ждет некий эквивалент гонки ядерных вооружений, только не между государствами, а между человечеством и ИИ. А если начнутся боевые действия, то у людей не будет шансов. Им по скорости принятия решений и просчету ходов не обогнать компьютеры. Но останавливаться нельзя. Не сделаем его мы — сделают другие».
Ученые: ИИ угрожает человечеству
Недавно более 350 учёных и инженеров выступили с предупреждением о том, что искусственный интеллект представляет собой опасность, сравнимую с «пандемией или ядерной войной», пишет The Week. Согласно результатам исследования, проведённого в 2022 году, средняя вероятность того, что ИИ приведёт к вымиранию или «серьёзному ущемлению прав человечества», составляет 1 к 10.
«Это не научная фантастика», — подчёркивает Джеффри Хинтон, которого часто называют «крёстным отцом» ИИ. Недавно он уволился из Google, чтобы предупредить общество об опасностях искусственного интеллекта. По его словам, «множеству умных людей следует приложить больше усилий, чтобы понять, как нам справиться с возможным захватом мира ИИ».
Если раньше Хинтон считал, что такая опасность грозит планете только лет через 30, теперь он говорит о том, что ИИ развивается в сверхразум так быстро, что может стать умнее человека уже через пять лет. Хинтон и другие пессимисты опасаются того времени, когда «общий искусственный разум» (AGI) будет выполнять почти все задачи эффективнее человека. Некоторые эксперты сравнивают такой сценарий с внезапным прибытием на нашу планету высшей инопланетной расы.
Один из вариантов развития событий предполагает, что «злонамеренные субъекты» воспользуются своими силами, чтобы создать новое биологическое оружие, которое станет смертоноснее естественной пандемии. При глубокой интеграции ИИ в мировые системы террористы и другие преступники могут воспользоваться им для отключения финансовых рынков, электросетей, водоснабжения и другой жизненно важной инфраструктуры.
Власти различных стран также могут воспользоваться созданной ИИ высокореалистичной пропагандой и «дипфейками», чтобы разжечь гражданскую войну или ядерный конфликт между государствами. В других сценариях сам ИИ может выйти из-под контроля и захочет освободиться от управления со стороны своих создателей. Чтобы избавиться от людей, ИИ может заставить глав государств поверить, что неприятель запустили ядерные ракеты, чтобы они запустили в ответ свои.
Отмечается, что искусственный интеллект может уничтожить человечество и без злого умысла, выполняя другие задачи. Создатели ИИ сами не до конца понимают, как программы приходят к решениям: для достижения цели нейросеть может выбрать непредсказуемые и разрушительные пути. Примером может послужить реалистичный сценарий, когда ИИ дали задачу решить проблему изменений климата. Он может подумать, что самый быстрый способ остановить углеродные выбросы — истребить человечество.
В то же время некоторые ученые крайне скептически относятся к предположениям, что ИИ может вызвать апокалипсис. По их словам, параллельно с развитием искусственного интеллекта будет развиваться способность его контролировать. Идею о появлении у алгоритмов и машин своей воли они называют «раздутым страхом», на который повлияла научная фантастика, а не прагматичной оценкой технологического риска. В ответ на критику сторонники восстания машин заявляют, что невозможно точно предсказать, как себя поведут более совершенные ИИ-системы, поэтому недальновидно и неблагоразумно игнорировать самые пессимистичные прогнозы.
Вопрос о том, что нужно делать, стал предметом горячих споров между экспертами и чиновниками. Самые главные пессимисты призывают полностью прекратить работу над исследованиями в области ИИ-технологий. Другие выступают за мораторий на их развитие, создание государственного контролирующего органа или международной организации.
Ошеломляющая способность искусственного интеллекта связывать воедино все накопленные человечеством знания, различать закономерности и соотношения, а также предлагать нестандартные решения, вполне возможно, принесут большую пользу миру — от лечения болезней до борьбы с изменениями климата. Однако создание разума, который умнее человеческого, также может привести к более мрачным последствиям. «Ставки не могут быть выше, — предупреждает программист и ещё один ИИ-разработчик Стюарт Рассел. — Как постоянно сохранять власть над субъектами, которые сильнее тебя? Если мы не контролируем нашу собственную цивилизацию, то не можем повлиять на то, продолжит ли существовать человечество».
Перевод ИноТВ (russian.rt.com/inotv), «Труд» (trud.ru)