Общественники обсудили возможные методы обуздания искусственного интеллекта

Ощущение, что нейросеть все время «подслушивает», «посматривает» и пытается что-то впихнуть, присутствует у многих россиян уже не первый год. Но теперь алгоритмические системы (искусственный разум постоянно анализирует интересы человека на основе его запросов в Интернете, переписок, списка покупок, визитов к докторам и т.д.) решают не только, что человек видит и слышит, взяв в руки гаджет. Они пошли дальше и предопределяют его мысли, эмоции и поступки. Увы, люди особенно не пытаются этому противостоять. Более того, они все чаще просят нейросеть решить за них задачки, которые делают жизнь осознанной. Появились отдельные персонажи, которые пытаются и вовсе наделить ИИ способностью быть другом или даже женой...

«Человечество вступило в эпоху антропотехнического перехода» - так начинается доклад, который представили на комитете в Совфеде под председательством сенатора и главы Комиссии СФ по информационной политике и взаимодействию со СМИ Алексея Пушкова. - Впервые в истории предметом преобразования стала внутренняя конституция человека: внимание, память, суждение, воля, способы связи с другими людьми, сообществами, институтами. Искусственный интеллект, биотехнологии и планетарные вычислительные инфраструктуры уже перераспределяют эти способности между человеком и машиной — без общественного решения и без ответа на вопрос, что в человеке должно быть сохранено. Главная угроза эпохи — не фантастическое «восстание машин», а мягкое, никем не объявленное расчеловечивание».

Представил доклад председатель СПЧ Валерий Фадеев со словами:

- Похоже, Страшный суд будет (если он будет) не с четырьмя всадниками Апокалипсиса, а в виде тихого угасания человечества. Превращения людей в объект управления и коррекции.

Но виноват не ИИ, он ведь просто инструмент. Вся ответственность на нас.

Представитель МИД Мария Захарова привела, на мой взгляд, отличный пример. Преподаватель просит ИИ дать студентам задания. Студенты с помощью ИИ его выполняют. Преподаватель просит ИИ проверить, как выполнено это задание. То есть человек из этой цепочки вообще по сути исключен, но произошло это только потому, что он сам обесценивает результаты своего труда.

Почему стало возможным писать научные статьи с помощью ИИ? Потому что есть запрос на количество таких статей, а не на качество. Они теперь редко несут действительно новую научную мысль, открытие. Но они необходимы для получения научного статуса или выплат.

«Виноваты разработчики ИИ», - считают многие. В какой-то степени это утверждение верно. Доказательства? Еще несколько месяцев назад был разработан Кодекс этики ИИ, который подписала тысяча российских компаний. Фактически ни одна из них его не выполняет. А закон о регулировании ИИ пока не принят (есть две его версии). Если резюмировать: контроль над ИИ должен быть независимым, а не в руках конкретных компаний. Увы, став монополистами в разных сферах, некоторые гиганты не руководствуются миссией служения людям, а исключительно думают о прибыли. Фадеев привел отличный пример агрегатора такси, который в период непогоды резко повышает цены. А Мария Захарова, напротив, вспоминала, как в одной из стран ей вернули часть денег за товар, потому что на него — уже после покупки! - была скидка. На ее вопрос, зачем это сделали, ответили, что им важно доставить клиенту радость.

В общем, как ни крути, но все риски с ИИ так или иначе упираются в интересы тех, кто их создают, кто их использует и продвигает. Такой вот цифровой капитализм нового формата. А можно еще говорить о цифровой бюрократии... Чтобы ее не допустить, предлагается, скажем, запретить чиновникам создавать чат-боты, где бы вместо них с местными жителями общался ИИ. Процитирую доклад:

«Закрепить красные линии делегирования — сферы, в которых решение должно оставаться человеческим независимо от качества систем: фундаментальные решения о жизни и природе человека; ядро правосудия и законотворчества; смыслообразующее культурное производство; воспитание развивающейся личности. Абсолютная красная линия — недопущение автономных систем к управлению ядерным оружием и иными средствами необратимого ущерба».