На 30% яблоко и на 70% швейцарский нож: почему нужно контролировать нейросети

21.02.2024 10:00:00

Государство и IT-бизнес решают, каким должен быть этот контроль в России.

В России в 2023 году аудитория нейросетей выросла в 3,5 раза. При этом примерно 38% жителей нашей страны регулярно используют технологии ИИ. Каждый день все они подвергаются опасности.

Начнем с анекдота. Его однажды в ответ на вопрос о нейросетях и искусственном интеллекте рассказал американский предприниматель Илон Маск: «Технари-агностики решили создать искусственный сверхинтеллект, чтобы узнать, есть ли Бог. Наконец, завершив дело, они задают этот вопрос ИИ, а он отвечает: "Теперь есть, придурки!"». Позже в одном из своих интервью известный IT-бизнесмен заявил, что «необходимо прописать правила для искусственного интеллекта уже сейчас, иначе в обозримом будущем интеллект сделает это сам». И эти правила человечеству могут не понравиться.

О правилах для ИИ задумывается и сооснователь Pinterest Эван Шарп, и один из создателей Apple Стив Возняк, и сотни других (возможно, менее известных и именитых, но также знакомых с проблемой) программистов и инженеров во всем мире. Правовое регулирование в сфере нейросетей, искусственного интеллекта и цифровых продуктов интересует сегодня также представителей российского бизнеса и промышленности. Существуют среди них и те, кто выступает за законодательное ограничение в сфере ИИ, и те, кто категорически против выстраивания барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы. 

Afanasy.biz решил поговорить с теми, кто в теме.

Думают ли нейросети

Когда мы слышим словосочетание «искусственный интеллект», нередко представляем большой электронный «мозг» или, допустим, сверхразумную программу, способную решать любые задачи. На самом деле то, что мы привыкли называть ИИ, в том числе — нейросети, программы для исследования данных — хоть и имеют одинаковую природу, не равнозначно.

При этом Марина Зырева подтверждает, что контроль и ограничения должны быть в любом случае. Но если проблемы создания так называемого самобытного искусственного интеллекта должны контролироваться на уровне межгосударственных соглашений и мирового сообщества, то те же нейросети и чат-боты, представляющие как социальную, так и экономическую угрозу, должны быть ограничены законодательными рамками в пределах государства. В России этот процесс в стадии становления.

Нейросеть — алгоритмы и математика

Нейросети — это математические модели, настроенные на самообучение, которое проходит в цикле. То есть, прогоняя данные по одному алгоритму и получая результаты, нейросеть запускает результаты первого прогона еще раз по тому же алгоритму, уточняясь в результатах. При этом она может работать как самостоятельно, по своему сценарию самообучения, так и с подкреплением. То есть, когда мы ей говорим: «А вот это лучший результат», — она самостоятельно начинает, прогоняя данные через свои алгоритмы (эпохи), улучшать результаты и накапливать их как память, тем самым нейросеть обучается.

Нейросети, впрочем, не только распознают образы. Они помогают людям в обработке и анализе человеческого языка; прогнозируют и анализируют данные; благодаря им автоматизируются и оптимизируются некоторые задачи на производствах. Они также служат основой при создании роботов, помогают в образовательном процессе и уже расширили границы сферы развлечений и искусства.

Однако необходимо брать во внимание и теневую сторону искусственного интеллекта, о которой мало говорят — ИИ наделен предвзятостью. Это качество выражается в множителях, в данных, в их применении и в трактовке результатов его работы. Например, предвзятость алгоритмов, по словам Марины Зыревой, заключается в том, что, имея на руках данные, программист может выстраивать математику, прогонять данные и получить негативный результат, но это не значит, что итог плох. Причина в предвзятости модели и в субъективных особенностях подхода к работе.

Иначе говоря, популярные сейчас нейросети и им подобные программы не обладают собственным разумом, а являются набором алгоритмов или инструментом, которым может пользоваться, «прокачивая» их, человек. Они как обычный столовый нож. В хозяйстве это — незаменимая вещь, но, в том числе, это инструмент преступников. И так же, как про нож, мы не можем сказать про искусственный интеллект, что он однозначно вреден. Вредной может быть сфера применения этого ИИ.

Вне цифровых стандартов 

Во что этот вред выливается на практике? Как преступники с помощью таких технологий могут испортить жизнь обществу, бизнесу или целому государству?

«История информационной безопасности регулярно обогащается примерами хакеров, которые пошли на сделки с органами власти, чтобы «скостить» свой срок. Один из классических примеров, как нужно выстраивать информационную безопасность и применять технологии, обозначил известный хакер «Митник» при взаимодействии с FBI. Он говорит о том, что любую информационную систему можно взломать — это вопрос времени и денег. Но если вы встраиваете информационную безопасность в каждый кирпичик системы и на всех уровнях, то вас взломать будет намного сложнее, — поясняет Марина Александровна. — Но при этом управлять множеством элементов крайне трудно. А в сети интернета вещей — где по протоколу 5G взаимодействуют не только человек с гаджетом, но гаджеты между собой — безопасность соединения смартустройства со смартустройством вообще не контролируется никем и никак. Мы наблюдаем зоопарк производителей устройств, у каждого из которых свои форматы взаимодействия и свои форматы уязвимости. Соответственно, практически любые наши смартустройства становятся открытой книгой для любого технически грамотного специалиста. Если мы говорим о безопасности взаимодействия устройств с устройствами, то здесь нет регламентов, нет правил, никто ничего не регулирует и не контролирует».

В рабочей группе при министерстве промышленности и торговли РФ, которая занимается цифровизацией российской промышленности, Герман Кичатов с коллегами решает, в том числе, и вопросы информационной безопасности на законодательном уровне: «Мы как общественный орган при госвласти находим эти уязвимости и сообщаем о них. И вот, в том числе благодаря этому, сейчас можно видеть, как начали появляться первые ГОСТы, стандарты по интернет-торговле».

Информационный диктат

По мнению Германа Вячеславовича, хакеры — далеко не единственная угроза в информационном пространстве. Еще один источник опасности — абсолютный контроль над личной информацией пользователей, которую собирают (при помощи чат-ботов и нейросетей тоже) крупнейшие информационные системы.

«Мы в своей рабочей группе говорим, что государство должно вмешиваться и разрабатывать некие правила и устраивать так, чтобы те люди, которые умеют владеть интеллектуальными системами, подчинялись определенным правилам. В последнее время Яндекс, Mail, Rambler начинают разрабатывать свои платформы, затаскивать к себе людей и предприятия, собирая их данные. И мы заметили, что начал проявляется «диктат платформ» над теми, кто уже зарегистрирован. То есть мы оказываемся привязаны, как в свое время были привязаны к мобильным операторам — ты теряешь телефон, и тебя теряют все твои друзья», — поясняет Герман Кичатов.

Вот почему, считают эксперты, требуется законодательная база для таких отношений. И первые шаги к регулировке в сфере информационных технологий государство уже совершает. С июля 2023 года федеральное Минцифры занимается разработкой концептуального документа, который получил название «Цифровой кодекс» — по аналогии с трудовым, налоговым, гражданским, семейный и так далее. Он объединит в себя все нормативные акты, касающиеся регулирования цифровых технологий и телекома.