13
Календарь конференций
  • 10 января – 31 мая

    Универсиада "Ломоносов" по международным отношениям 2021/2022 учебного года

  • 15 января – 31 мая

    Универсиада Ломоносов по государственному управлению

  • 18 – 21 сентября

    I Всероссийская конференция преподавателей кристаллографии

  • 15 – 16 декабря

    Всероссийская конференция «Органические радикалы: фундаментальные и прикладные аспекты» (2022)

Все конференции
Конкурсы на замещение должностей научных и педагогических работников
Олимпиады школьников и универсиады в МГУ
Программы поддержки талантливой молодежи
Программы дополни-
тельного образования
Проект «Вернадский»
«Университет без границ»
23/11/21

Академик РАН Игорь Соколов – об уязвимости искусственного интеллекта

Основы искусственного интеллекта были заложены еще А.Н. Колмогоровым в аксиоматике теории вероятностей. И сегодня эта область науки активно развивается. Академик РАН Игорь Анатольевич Соколов на заседании Президиума РАН осветил вопрос безопасности технологий искусственного интеллекта.

Соколов подчеркнул, что искусственный интеллект нельзя ограничивать искусственными нейронными сетями и машинным обучением. Это методы, решающие задачи, для которых отсутствует или не подходит известный алгоритм решений. Человеческая речь не поддается описанию с помощью дифференциального уравнения, и необходимость извлечения этих данных рождает новую математику.

«Все успехи научно-технического, научно-технологического прогресса последних 50 лет не в последней степени достигнуты благодаря тому, что мы научились моделировать процессы объектов окружающего мира», - заметил Соколов.

Российская наука сосредоточена на нейронных сетях. По словам академика, топовые разработки содержат более 500 млрд. параметров, которыми оперирует сегодняшний метод искусственного интеллекта. Многие вещи были вложены в управление сложными техническими устройствами и даже самолетами, когда это еще не называли ИИ. Соколов считает, что интерес к этой области науки сформирован благодаря байесовскому подходу, который активно развивается в университетах сегодня.

Эта сфера требует фундаментальных исследований. Его уязвимость позволяет умышленно искажать обучающие данные, модели и объекты на этапах применения. Как отметил Соколов, достаточно изменить 1 пиксель, чтобы искусственный интеллект идентифицировал тигра как медведя. Это главная проблема, создающая неверные данные и подрывающая информационную безопасность.

«Научная Россия»

https://scientificrussia.ru/articles/akademik-ran-igor-sokolov-ob-uazvimosti-iskusstvennogo-intellekta