Как теперь не провалить тест ИИ – большой вопрос.
За изобретения, менявшие эволюционную траекторию развития вида, люди уже дважды платили цену.
— Платой за первое такое величайшее изобретение — письменность — стала постепенная деградация памяти людей, все более утрачиваемой по мере совершенствования их «внешней памяти».
— Платой за второе изобретение – Интернет, перегрузивший нас информацией больше, чем мы можем обрабатывать, — стала нарастающая деградация когнитивной глубины мышления людей, нарастание стресса, снижение концентрации внимания и поляризация политического дискурса.
Одержимость количественными показателями, объема, скорости и эффективности сформировала у цивилизации ошибочную модель познания. Отдавая приоритет инструментам, процессам и практикам, позволяющим нам достигать больших результатов, быстрее и эффективнее (с точки зрения производительности и материальных затрат), мы обрели еще одно величайшее изобретение – искусственный интеллект (ИИ). И если развитие ИИ-помощников пойдет по тому пути, что формируют сейчас киты бигтеха, модели познания людей будет нанесен катастрофический и, возможно, невосполнимый урон.
Передавая все больше функций познания ИИ, люди не только еще более утратят и так уже далеко не лучшую память. Вдобавок, люди будут неотвратимо терять функциональность своих важнейших когнитивных способностей (типа критического мышления), всё более полагаясь на когнитивные гаджеты больших языковых моделей.
Перекладывание своей интеллектуальной работы на ИИ будет иметь для интеллектуальных способностей людей аналогичные последствия, что и отказ от физической работы, передаваемой механизмам, ведущий к деградации физических возможностей человека.
Вот почему важнейшим вызовом человечества сегодня является решение задачи снижения цены, которую нам предстоит заплатить за фантастические блага, сулимые цивилизации от внедрения ИИ. С массовым распространением Интернета всё было буквально на наших глазах. И мы определенно знаем, что многое можно было сделать иначе, минимизируя цену утрат и деградаций.
И вот почти все лидеры в области ИИ выступили единым фронтом. «Снижение риска вымирания от ИИ должно стать глобальным приоритетом наряду с другими рисками общественного масштаба, такими как пандемии и ядерная война». Этим предельно коротким, но абсолютно недвусмысленным документом – «Заявление о риске ИИ» — ведущие исследователи, инженеры, эксперты, руководители ИИ-компаний и общественные деятели выражают свою озабоченность экзистенциальным риском для человечества из-за сверхбыстрого развития ИИ.
Наивысший приоритет ИИ-рисков признали не только двое из трёх «крёстных отцов ИИ» Джеффри Хинтон и Йошуа Бенжио, но и еще десятки топовых имен:
— гендиры абсолютных лидеров в разработке ИИ: Google DeepMind — Демис Хассабис, OpenAI — Сэм Альтман, Anthropic – Дарио Амодеи и Даниела Амодеи (президент), Microsoft – Кевин Скот (СТО);
— главные научные сотрудники компаний-лидеров: Google DeepMind – Шейн Лэгг, OpenAI — Илья Суцкевер, Anthropic – Роджер Гросс, Microsoft — Эрик Хорвитц;
— профессора крупных университетов: от Стюарта Рассела и Доан Сонг (Беркли, США) – до Я-Цинь Чжан и Сяньюань Чжан (Университет Пекина);
— руководители многих известных исследовательских центров: Center for Responsible AI, Human Centered Technology, Center for AI and Fundamental Interactions, Center for AI Safety…
Среди звёзд первой величины не подписал «Заявление о риске ИИ» третий «крёстный отец ИИ» Ян Лекун. Свое мнение он сформулировал так: «Сверхчеловеческий ИИ — далеко не первый в списке экзистенциальных рисков. Во многом потому, что его еще нет. Пока у нас не будет проекта хотя бы для ИИ собачьего уровня (не говоря уже об уровне человека), обсуждать, как сделать его безопасным, преждевременно».
Источник: «Малоизвестное интересное» (t.me/theworldisnoteasy)
