Трансляции

В Совете Федерации под председательством сенатора Алексея Пушкова прошло заседание Комиссии по информационной политике и взаимодействию со СМИ, посвященное теме «Человек как автор информационной революции или как ее раб: поиски баланса».

Поводом для обсуждения стал доклад «Дух победы и мировая гуманитарная повестка», подготовленный экспертами при участии председателя Совета при Президенте по развитию гражданского общества и правам человека Валерия Фадеева.

Открывая заседание, Пушков отметил, что мир стремительно движется к делегированию все большего числа человеческих функций машине в философском смысле. Он напомнил, что история знает три этапа осмысления угрозы расчеловечивания — политическое (антиутопия Замятина), технологическое (роман Хаксли) и информационное (Оруэлл). Сегодня наступает новый этап, когда главным механизмом воздействия становится зависимость человека от цифры и искусственного интеллекта, который все чаще принимает решения за человека или ассистирует ему в этом.

Валерий Фадеев представил доклад, в котором авторы фиксируют главную угрозу эпохи не как фантастическое восстание машин, а как «мягкое и никем не объявленное расчеловечивание». По их мнению, человек рискует превратиться из субъекта истории в объект управления, профилирования и коррекции. Фадеев привел конкретные примеры: уход рекламных денег с традиционных СМИ на платформы и агрегаторы, алгоритмическое формирование информационной среды, скоринговые системы, определяющие доступ к благам, и образовательные платформы, формирующие траекторию развития ребенка без участия живого педагога.

Он также обратил внимание на размывание конституционных гарантий: сбор и использование персональных данных без реального согласия граждан, монополизация рынков, в том числе рынка такси, где в ухудшение погоды цены не снижаются, а растут, а критерий общественной полезности подменяется максимизацией прибыли. Авторы доклада предлагают ввести понятие «гуманитарного прагматизма»: ценности должны определять архитектуру цифровых систем с самого начала, а не быть приложением к технологиям.

Пушков отметил, что доклад поднимает экзистенциальную проблему: машина постепенно становится новым божеством — удобным, всепроникающим, не требующим ответственности. «Мы не должны позволить, чтобы машина стала Богом», — сказал он.

Официальный представитель Министерства иностранных дел России Мария Захарова призвала не винить в расчеловечивании только технологии. По ее словам, деградация началась раньше — когда глянцевые журналы формировали элиту вокруг «успешности», а не подвига или труда, а телевидение десятилетиями показывало ложных героев. Она привела цифры из доклада Всемирного экономического форума: к 2030 году в мире будет создано 170 млн новых рабочих мест и упразднено 92 млн, то есть чистый прирост составит 78 млн. Компании, активно внедряющие искусственный интеллект, наращивают штат быстрее, чем те, кто его игнорирует. «Информационная революция не только пожирает, но и кормит», — подчеркнула она.

Научный руководитель Образовательного центра по правам человека Московского государственного юридического университета, экс-уполномоченный по правам человека в РФ Татьяна Москалькова заявила, что права человека в условиях технологической революции амбивалентны. Цифровизация дает удобство и открывает мир для людей с ограниченными возможностями, но конституционные гарантии частной жизни оказались размыты. Ответственность за утечки данных и манипуляции практически отсутствует, а раскрываемость киберпреступлений не превышает 25 процентов. Она предложила ввести ответственность нового поколения — не обязательно уголовную, но сдерживающую, например, запрет на профессиональную деятельность или ограничение доступа в интернет.

Игорь Ашманов, разработчик систем искусственного интеллекта, заявил, что отрасль находится внутри огромного пузыря, аналогичного пузырю блокчейна. Реального роста производительности и создания рабочих мест не происходит, а наблюдаются обратные процессы: компании нанимают уволенных обратно, потому что чат-боты отгоняют клиентов. Ашманов предупредил о когнитивной травме у студентов, которые после нескольких месяцев использования нейросетей перестают самостоятельно писать и мыслить. Он также раскритиковал готовящийся правительственный законопроект об искусственном интеллекте, который, по его мнению, закрепит монополию двух компаний, исключит ответственность и не создаст механизмов доверенного использования.

Депутат Государственного Совета Республики Татарстан, первый проректор Казанского инновационного университета Игорь Бикеев отметил, что передача функций принятия решений искусственному интеллекту создает «зону структурной безответственности»: разработчик кивает на пользователя, пользователь — на алгоритм, а спросить не с кого. Идея наделить искусственный интеллект правами юридического лица является опасной ширмой, за которой реальные виновники уходят от ответственности. Решение, от которого зависит судьба человека, должно оставаться человеческим.

Участники дискуссии поддержали необходимость законодательного регулирования недопустимых применений искусственного интеллекта, особенно в социальной сфере, образовании, правосудии и госуправлении. По итогам заседания предложено продолжить работу над конкретными механизмами защиты прав человека в условиях цифровой трансформации.