Путь к слабому ИИ

"Прошли века прежде, чем человечество перешло от филосовских идей о механизации к реальным научным разработкам по созданию искусственного интеллекта и их последующему внедрению в повседневную жизнь людей. Пришлось пережить немало зим разочарований, когда энтузиазм и идеи гасли на фоне недостатка данных и технологий", - рассказывает Оксана Захарова.

По ее словам, наиболее значимыми историческими вехами развития ИИ стали:

1956 год - на Дартмутской конференции ученые впервые использовали термин "искусственный интеллект" и заложили его основы как академической дисциплины;

1997 год - суперкомпьютер Deep Blue обыграл чемпиона мира в шахматном поединке, показав, что машина может быть умнее человека;

2020 год - появление генеративных моделей дало понимание того, что ИИ может не просто считать и работать по алгоритму, но и творить.

"Основополгающую роль в этом развитии сыграли три фактора. Во-первых, огромный объем данных, к которому у нас есть доступ через интернет. Без них ИИ в принципе бы невозможно было создать и тестировать. Во-вторых, железо. Техника и технологии наконец-то догнали научные идеи. Появились доступные видеокарты, способные обеспечить огромное количество ТБ вычислений. И, в-третьих, архитектура трансформеров, заменившая последовательную обработку данных на параллельную с механизмом внимания. Ее разработка дала скорость работе моделей", - отметила эксперт.

Сейчас пользователям доступен слабый или узкий ИИ. Он стоит за большинством привычных сервисов и инструментов, включая чат-боты и языковые модели (типа ChatGPT, "Алисы" и т. п.), рекомендательные системы, голосовых помощников и т. д. Как правило, такой ИИ может выполнять одну или узкий набор задач, опираясь на статистику и паттерны.

"Нужно понимать, что это не какое-то разумное создание, как многие себе его представляют, а некий калькулятор вероятностей - очень быстрый. Он работает на основе мощных статистических моделей, которые находят закономерности в данных и предсказывают наиболее вероятный результат. При этом в отличие от ранних моделей современные способны учиться самостоятельно, и программистам уже не нужно вводить тысячи строк кода, чтобы сформировать нужный алгоритм работы", - объясняет Оксана Захарова.

Польза и риски ИИ

Массовое распространение ИИ, по мнению преподавателя ПГУТИ, отвечает запросу времени. Ритм жизни ускоряется, и такие системы помогают людям не отставать, быть быстрее и эффективнее в учебе, работе, бизнесе:

"Элементарный  пример. Каждый день мы смотрим анализ пробок в городе и на основе этого составляем самый быстрый маршрут. И так почти со всеми сферами жизни. Ведь ИИ сейчас используют практически везде: в медицине, в промышленности, науке, медиа, ЖКХ и т.д. Польза колоссальная, но есть и серьезные риски".

В первую очередь это галлюцинации ИИ. И хотя пользователи успешно освоили навыки написания качественных промптов, многие принимают на веру сгенерированные результаты, а в них могут быть ошибки. В медицине и промышленности, например, это может привести к катастрофическим результатам: человек может пострадать из-за неправильной постановки диагноза, на заводе из-за сбоя в расчетах случится авария:

"Поэтому важно не выключать человека из контура принятия решений. Он должен критически оценивать все полученные от ИИ результаты".

Второй риск связан с влиянием искусственного интеллекта на психику людей - особенно молодых, и межличностные отношения. По словам Оксаны Захаровой, если раньше проблемой было то, что ребята больше общаются в социальных сетях, чем лично друг с другом, то теперь зачастую собеседника заменяет ИИ. Живого взаимодействия с другими людьми становится все меньше.

ИИ должен развиваться в русле человекоориентированности. Нужен супер-помощник, способный снять с людей стресс рутины, но не заменять их. Финальное решение всегда должно оставаться за человеком.

"Развиваем объяснимый ИИ"

"Сейчас есть некий хайп вокруг концепций сильного (общего) ИИ, супер-ИИ и самопознающего ИИ, которые, на мой взгляд, выглядят пока как некая фантастика. Идея сделать машину, которая была бы умнее человека, не нова. Но вот сделать машину осознающей себя - это уже вопрос не математики, на основе которой построены ИИ-алгоритмы, а все-таки биологии и физики. И нужно ли это вообще? Для начала необходимо разобраться с проблемами слабого ИИ. Он должен развиваться таким образом, чтобы становиться все более полезным инструментом для человека, но не его конкурентом", - считает Оксана Захарова.

Для выполнения этой задачи, как отмечает эксперт, в учебных заведениях нужно развивать направления подготовки специалистов по этике ИИ. Также требуется психологическая экспертиза, чтобы понимать, как искусственный интеллект влияет на восприятие, поведение, эмоциональное состояние людей, и делать технологии безопасными и понятными.

"В плане разработки нужны уже не просто программисты, а специалисты, умеющие обучать модели под конкретные отрасли. В ПГУТИ есть хороший выбор прикладных направлений подготовки. Также с 1 сентября при поддержке Минцифры РФ и Аналитического центра при Правительстве РФ мы запустили в работу Центр ТОП ИТ, где обучение проходит через индустриальные треки: студенты решают конкретные задачи наших партнеров. В рамках лаборатории ИИ мы работаем над развитием объяснимого искусственного интеллекта, чтобы модель не просто выдавала результат, а показывала нам, почему она так решила. Без этого  внедрение ИИ, особенно в образование и крупные индустрии, просто опасно", - отметила эксперт. 

Материал подготовлен при поддержке гранта Минобрнауки России в рамках Десятилетия науки и технологий