Только новости экономики
Все новости

На правах рекламы. Рекламодатель ООО «ГИПЕРГЛОБУС». ИНН 7743543761. Erid: 25H8d7vbP8NjNKGFWYxYmz

На правах рекламы. Возрастное ограничение 0+. Рекламодатель ООО «Свежий ветер. Тверь». 25H8d7vbP8NjNKGFQ4QNYG

На правах рекламы. Рекламодатель ООО «ГИПЕРГЛОБУС». ИНН 7743543761. Erid: 25H8d7vbP8NjNKGFWYxYmz

Технологии
Интернет

На 30% яблоко и на 70% швейцарский нож: почему нужно контролировать нейросети

Новости Твери, 21 февраля. — Государство и IT-бизнес решают, каким должен быть этот контроль в России.
Поделиться
Подписаться
На 30% яблоко и на 70% швейцарский нож: почему нужно контролировать нейросети Текст: Илья Крутов
 Фото: Изображение от rawpixel.com на Freepik; Изображение от DC Studio на Freepik; Изображение от Freepik; Герман Кичатов, Марина Зырева
В России в 2023 году аудитория нейросетей выросла в 3,5 раза. При этом примерно 38% жителей нашей страны регулярно используют технологии ИИ. Каждый день все они подвергаются опасности.

Начнем с анекдота. Его однажды в ответ на вопрос о нейросетях и искусственном интеллекте рассказал американский предприниматель Илон Маск: «Технари-агностики решили создать искусственный сверхинтеллект, чтобы узнать, есть ли Бог. Наконец, завершив дело, они задают этот вопрос ИИ, а он отвечает: "Теперь есть, придурки!"». Позже в одном из своих интервью известный IT-бизнесмен заявил, что «необходимо прописать правила для искусственного интеллекта уже сейчас, иначе в обозримом будущем интеллект сделает это сам». И эти правила человечеству могут не понравиться.

О правилах для ИИ задумывается и сооснователь Pinterest Эван Шарп, и один из создателей Apple Стив Возняк, и сотни других (возможно, менее известных и именитых, но также знакомых с проблемой) программистов и инженеров во всем мире. Правовое регулирование в сфере нейросетей, искусственного интеллекта и цифровых продуктов интересует сегодня также представителей российского бизнеса и промышленности. Существуют среди них и те, кто выступает за законодательное ограничение в сфере ИИ, и те, кто категорически против выстраивания барьеров, затрудняющих разработку и применение систем искусственного интеллекта и робототехники в различных отраслях экономики и социальной сферы. 

Afanasy.biz решил поговорить с теми, кто в теме.

Думают ли нейросети


Когда мы слышим словосочетание «искусственный интеллект», нередко представляем большой электронный «мозг» или, допустим, сверхразумную программу, способную решать любые задачи. На самом деле то, что мы привыкли называть ИИ, в том числе — нейросети, программы для исследования данных — хоть и имеют одинаковую природу, не равнозначно.

«Мы должны четко понимать, что у нас есть две ветки искусственного интеллекта: это нативный искусственный интеллект, который имеет практическое применение и ИИ общего содержания, а также существует самобытный искусственный интеллект, который наделен сознанием. Вот разработки самобытного искусственного интеллекта действительно тревожны, содержат огромные риски, связаны со страшными антиутопиями. А искусственный интеллект практического применения, к примеру, чат-боты, аналитические программы (например, по сбору статистики), а также различные нейросети являются скорее очень умными инструментами для достижения различных целей, но не способны самостоятельно мыслить», — поясняет собеседник Afanasy.biz, старший преподаватель ТвГУ, CDO ООО «АКИТ-центр» Марина Зырева.


При этом Марина Зырева подтверждает, что контроль и ограничения должны быть в любом случае. Но если проблемы создания так называемого самобытного искусственного интеллекта должны контролироваться на уровне межгосударственных соглашений и мирового сообщества, то те же нейросети и чат-боты, представляющие как социальную, так и экономическую угрозу, должны быть ограничены законодательными рамками в пределах государства. В России этот процесс в стадии становления.

Наступит момент, когда люди для работы уже не потребуются. Вы, конечно, сможете найти работу, если хотите её иметь для личного удовольствия. Однако ИИ и без вас сможет сделать всё. Я не знаю, насколько комфортным это окажется для людей. Это как найти волшебного джинна, который исполнит любое ваше желание, при этом желаний может быть бесконечно много, —

Илон Маск

Нейросеть — алгоритмы и математика


Нейросети — это математические модели, настроенные на самообучение, которое проходит в цикле. То есть, прогоняя данные по одному алгоритму и получая результаты, нейросеть запускает результаты первого прогона еще раз по тому же алгоритму, уточняясь в результатах. При этом она может работать как самостоятельно, по своему сценарию самообучения, так и с подкреплением. То есть, когда мы ей говорим: «А вот это лучший результат», — она самостоятельно начинает, прогоняя данные через свои алгоритмы (эпохи), улучшать результаты и накапливать их как память, тем самым нейросеть обучается.

«Как-то раз японские бизнесмены на встрече в центре «Мой бизнес» привели такой пример: поручая нейросети определить, где яблоки, а где груши, мы должны сначала показать ей: «Вот яблоко, а вот груша». После этого она сама вырабатывает у себя алгоритм определения, и в конце концов уже понимает, что это яблоко, а это — груша. Однако если эта программа увидит апельсин, то скажет, что на 30% это яблоко — потому что круглый и на 70% груша — потому что желтый. Другими словами, такой ИИ никогда не дает 100% результата. Поэтому не нужно бояться, что искусственный интеллект заменит человека. Такого не будет никогда. Всегда будут ошибки», — успокаивает председатель правления «Ассоциации участников Президентской программы Тверской области», участник Общественного совета и рабочей группы при министерстве промышленности и торговли Тверской области.


Нейросети, впрочем, не только распознают образы. Они помогают людям в обработке и анализе человеческого языка; прогнозируют и анализируют данные; благодаря им автоматизируются и оптимизируются некоторые задачи на производствах. Они также служат основой при создании роботов, помогают в образовательном процессе и уже расширили границы сферы развлечений и искусства.

Однако необходимо брать во внимание и теневую сторону искусственного интеллекта, о которой мало говорят — ИИ наделен предвзятостью. Это качество выражается в множителях, в данных, в их применении и в трактовке результатов его работы. Например, предвзятость алгоритмов, по словам Марины Зыревой, заключается в том, что, имея на руках данные, программист может выстраивать математику, прогонять данные и получить негативный результат, но это не значит, что итог плох. Причина в предвзятости модели и в субъективных особенностях подхода к работе.

Иначе говоря, популярные сейчас нейросети и им подобные программы не обладают собственным разумом, а являются набором алгоритмов или инструментом, которым может пользоваться, «прокачивая» их, человек. Они как обычный столовый нож. В хозяйстве это — незаменимая вещь, но, в том числе, это инструмент преступников. И так же, как про нож, мы не можем сказать про искусственный интеллект, что он однозначно вреден. Вредной может быть сфера применения этого ИИ.

Искусственный интеллект — это как швейцарский нож: он может быть полезным инструментом или опасным оружием, —

Илон Маск

Вне цифровых стандартов 


Во что этот вред выливается на практике? Как преступники с помощью таких технологий могут испортить жизнь обществу, бизнесу или целому государству?

«История информационной безопасности регулярно обогащается примерами хакеров, которые пошли на сделки с органами власти, чтобы «скостить» свой срок. Один из классических примеров, как нужно выстраивать информационную безопасность и применять технологии, обозначил известный хакер «Митник» при взаимодействии с FBI. Он говорит о том, что любую информационную систему можно взломать — это вопрос времени и денег. Но если вы встраиваете информационную безопасность в каждый кирпичик системы и на всех уровнях, то вас взломать будет намного сложнее, — поясняет Марина Александровна. — Но при этом управлять множеством элементов крайне трудно. А в сети интернета вещей — где по протоколу 5G взаимодействуют не только человек с гаджетом, но гаджеты между собой — безопасность соединения смартустройства со смартустройством вообще не контролируется никем и никак. Мы наблюдаем зоопарк производителей устройств, у каждого из которых свои форматы взаимодействия и свои форматы уязвимости. Соответственно, практически любые наши смартустройства становятся открытой книгой для любого технически грамотного специалиста. Если мы говорим о безопасности взаимодействия устройств с устройствами, то здесь нет регламентов, нет правил, никто ничего не регулирует и не контролирует».

В рабочей группе при министерстве промышленности и торговли РФ, которая занимается цифровизацией российской промышленности, Герман Кичатов с коллегами решает, в том числе, и вопросы информационной безопасности на законодательном уровне: «Мы как общественный орган при госвласти находим эти уязвимости и сообщаем о них. И вот, в том числе благодаря этому, сейчас можно видеть, как начали появляться первые ГОСТы, стандарты по интернет-торговле».

ИИ опаснее, чем, допустим, брак при конструировании самолета или автомобиля. В нейросеть заложен потенциал… Кому-то он может показаться незначительным, но это не так… Потенциал разрушения человеческой цивилизации, —

Илон Маск

Информационный диктат


По мнению Германа Вячеславовича, хакеры — далеко не единственная угроза в информационном пространстве. Еще один источник опасности — абсолютный контроль над личной информацией пользователей, которую собирают (при помощи чат-ботов и нейросетей тоже) крупнейшие информационные системы.

«Мы в своей рабочей группе говорим, что государство должно вмешиваться и разрабатывать некие правила и устраивать так, чтобы те люди, которые умеют владеть интеллектуальными системами, подчинялись определенным правилам. В последнее время Яндекс, Mail, Rambler начинают разрабатывать свои платформы, затаскивать к себе людей и предприятия, собирая их данные. И мы заметили, что начал проявляется «диктат платформ» над теми, кто уже зарегистрирован. То есть мы оказываемся привязаны, как в свое время были привязаны к мобильным операторам — ты теряешь телефон, и тебя теряют все твои друзья», — поясняет Герман Кичатов.

Вот почему, считают эксперты, требуется законодательная база для таких отношений. И первые шаги к регулировке в сфере информационных технологий государство уже совершает. С июля 2023 года федеральное Минцифры занимается разработкой концептуального документа, который получил название «Цифровой кодекс» — по аналогии с трудовым, налоговым, гражданским, семейный и так далее. Он объединит в себя все нормативные акты, касающиеся регулирования цифровых технологий и телекома.

Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой? Должны ли мы автоматизировать все рабочие места? Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией?

Из письма Илона Маска и других программистов к общественности.

telegram

Новости Твери и городов Тверской области —
в Телеграм, в ОК и Вконтакте

Новости Твери
В Тверской области  выявлены поставщики опасной продукции - новости Афанасий

В Тверской области выявлены поставщики опасной продукции

24.04.2024
Утром на улице Советская в Твери сбили мужчину - новости Афанасий

Утром на улице Советская в Твери сбили мужчину

24.04.2024
В Твери на улице Софьи Перовской сбили пешехода - новости Афанасий

В Твери на улице Софьи Перовской сбили пешехода

24.04.2024
В Заволжском районе Твери снесут аварийный многоквартирный дом - новости Афанасий

В Заволжском районе Твери снесут аварийный многоквартирный дом

24.04.2024
В Тверскую область после ночных заморозков идет потепление

В Тверскую область после ночных заморозков идет потепление

24.04.2024
В Тверской области могут сделать бесплатной парковку для участников СВО - новости Афанасий

В Тверской области могут сделать бесплатной парковку для участников СВО

24.04.2024
В Тверской области на майские праздники изменится расписание электричек - новости Афанасий

В Тверской области на майские праздники изменится расписание электричек

24.04.2024
В Тверской области стартовала акция «Георгиевская ленточка» - новости Афанасий

В Тверской области стартовала акция «Георгиевская ленточка»

24.04.2024
Поделиться
Подписаться
Новости партнеров

Новости сегодня

Арендатор земли нарушает закон? Ответ держать придется и собственнику - новости Афанасий
Экономика

Арендатор земли нарушает закон? Ответ держать придется и собственнику

25.04.2024
В Тверской области  выявлены поставщики опасной продукции - новости Афанасий
Экономика

В Тверской области выявлены поставщики опасной продукции

24.04.2024
Сельхозкооперативу «Каденка» из Оленино пояснили правила обращения с землей - новости Афанасий
Экономика

Сельхозкооперативу «Каденка» из Оленино пояснили правила обращения с землей

24.04.2024
Дорога под Осташковом зарастала кустами - новости Афанасий
Общество

Дорога под Осташковом зарастала кустами

24.04.2024

На правах рекламы. Возрастное ограничение 0+. Рекламодатель ООО «Свежий ветер. Тверь». 25H8d7vbP8NjNKGFQ4QNYH

Яндекс.Метрика