Научный сотрудник лаборатории анализа лучших международных практик Института Гайдара Кирилл Черновол рассказал, как меняются претензии к искусственному интеллекту по мере развития технологий и почему вопросы ответственности и контроля остаются ключевыми.
По словам экономиста, недоверие к ИИ характерно для разных стран и особенно заметно в сферах, где его решения могут повлиять на жизнь человека. Например, по данным ОЭСР, только четыре человека из десяти доверяют решениям ИИ в государственном управлении или считают, что он поможет улучшить работу государственных органов.
«Глобально есть претензии, которые всегда предъявляются к использованию ИИ как явлению: это отсутствие контроля и ответственного за решения ИИ. Компания, например, может автоматизировать задачи за счет ИИ, но наказать или уволить его за ошибки нельзя, а если нанимать специального человека следить за работой ИИ, то зачем автоматизировать процесс, который этот же человек может делать?» — объяснил Кирилл Черновол.
Он отметил, что по мере развития технологий меняются и основные опасения пользователей. Если при внедрении ИИ в финансах, медицине и транспорте главными вопросами были прозрачность алгоритмов, возможная дискриминация и защита персональных данных, то с распространением генеративных моделей на первый план вышли ошибки и выдуманная информация, а также нарушения авторских прав.
Сейчас всё большее распространение получают ИИ‑агенты, которые могут самостоятельно взаимодействовать с другими системами и получать доступ к данным. Поэтому особую актуальность приобретают риски утечки конфиденциальной информации, удаления данных без разрешения и выполнения действий за пределами поставленной задачи.