Большое и интересное мероприятие прошло в Вашингтоне по ИИ (искусственному интеллекту).
Диалог «капитанов IT» между собой и с политическим начальством по поводу перспектив развития и регуляции искусственного интеллекта. Были все, кто на слуху с общим капиталом в адово множество десятков миллиардов – Гейтс, Маск, Альтман, Цукерберг и так далее. Цукера с Маском рассадили в разные концы стола, чтоб не подрались.
Встреча была закрытой, пресса пишет о ней по отрывочным комментариям пожелавших высказаться участников, среди которых были и критики, настроенные не оптимистично. Организатор – лидер большинства в сенате США Чак Шумер – сказал потом, что присутствовали на мероприятии 2/3 состава cената.
Обсуждали такие вопросы:
— запрет генеративного ИИ в избирательных кампаниях и политике (один из самых эффективных способов регуляции ИИ с большими и позитивными последствиями – прекращение политической карьеры товарищей, использующих в политическом продвижении нейросеть ChatGP и аналогичные модели);
— защита труда людей — не только рабочих мест, но и «earning power» – способности зарабатывать на этих местах, доходность для работников. И это очень важный аспект, поскольку энтузиасты любят рисовать графики «увеличения числа работников отрасли благодаря ИИ», а на поверку оказывается, что там, где раньше работали условно два доктора наук, теперь планируется один младший программист и две уборщицы, что обеспечивает формальное увеличение числа работников на 50% при снижении расходов на з/п в разы;
— регуляция использования ИИ как на страновом уровне США, так и на международном. Существуют предложения по созданию, учитывая объективную опасность ИИ для жизни людей при объективной невозможности остановить технологическое развитие, международного агентства типа МАГАТЭ;
— недостатки медицинских компетенций нынешних моделей (отдельно обсуждалось, что ChatGP уступает даже «не взлетевшему» 15 лет назад Watson’у от IBM, при этом собственники нейронки ChatGP не предпринимают ничего по этому поводу и, наоборот, поощряют интервенции ChatGP в сферу, связанную с жизнью и здоровьем людей, не неся никакой ответственности);
— безопасность использования нынешних открытых моделей (отсутствующая) – приводится пикировка Цукерберга с одним из экспертов, который «за 800 долларов» нанял программиста, чтобы тот сломал все ограничения аналога ChatGP от Meta (ранее Facebook) – Llama2. В результате за пару часов работы ограничения были сняты, и заказчик по запросу получил подробные пошаговые инструкции по изготовлению химического и бактериологического оружия из материалов, которые можно купить в открытой продаже. Цукерберг отвечал, что «всё это есть в интернете». Критик указывал на то, что хоть оно и есть, но существует разница между большим, требующим специальной подготовки, трудом по поиску решений и полученной в два клика страницей текста с инструкцией, понятной старшекласснику, где даже адреса ближайших мест покупки необходимого с ценами и ориентировочным сроком доставки указаны. В ответ на это Цукерберг начал традиционно рассказывать сказки про «демократичность открытого ИИ» и прогресс для человечества. Туда же подался дедушка Гейтс с глубокими мыслями, что ИИ позволит решить проблемы голода.
Изнутри IT с адекватных позиций выступали только Альтман (он всегда был за регуляцию и «ответственность») и Маск, кровно заинтересованный в том, чтобы у среднего класса осталось «earning power» для покупки того, что производят его ориентированные на потребрынок компании типа «Теслы».
Отдельно обсуждалось, что после десятков слушаний, встреч, мероприятий и попыток к чему-то прийти, не получается найти не то чтобы решения, а даже наметить дорожную карту (план действий) по регуляции очевидно опасной технологии. Понятно, лоббисты с неограниченными деньгами будут сдерживать эту историю до крайней крайности.
Источник: t.me/glebsmith77