Израильтяне обманули искусственный интеллект

Израильские специалисты сумели обмануть систему защиты информации, базирующейся на искусственном интеллекте, и поставить разработчиков этой системы в весьма неловкое положение. О том, как удалось обойти новейшую защиту, стало известно в понедельник, 22 июля.

Отметим, что системы с применением искусственного интеллекта, натренированного на распознавание вредоносного контента, считаются самыми перспективными в сфере обеспечения безопасности информации.

Одну из таких систем, разработанную компанией Blackberry Cylance, «пробили» израильские специалисты, работающие в компании Skylight Cyber. Они обнаружили, что если добавить к любому файлу код, позаимствованный из популярной компьютерной игры, то система защиты перестает его распознавать как вредоносный.

Выяснилось, что разработчики системы, выявляющей сетевых вредителей по миллионам параметрам, отметили несколько групп файлов как благонадежные по умолчанию. В этот список попали и файлы из нескольких компьютерных игр. Каким именно, израильтяне из Skylight Cyber не сообщают, чтобы дать Cylance возможность закрыть брешь в защите.

По словам гендиректора Skylight Cyber Ади Ашкенази, разработчикам антивируса понадобится немало времени, чтобы научить искусственный интеллект реагировать на подобные манипуляции с кодом.

В свою очередь, Райан Перме, один из основателей и главный ученый Cylance, рассказал в интервью порталу VICE, что разработанная его компанией система полагается не только на искусственный интеллект, и усовершенствовать алгоритм распознавания можно за сравнительно короткий срок.

Вместе с тем Перме отметил, что решить проблемы с анализом игрового контента будет непросто, и обучение (точнее, переучивание) системы – достаточно сложный процесс.

Справка

Skylight Cyber основана выпускником Тель-Авивского университета Ади Ашкенази, в прошлом занимавшимся защитой информации в израильских государственных структурах, и Шахаром Зини, лауреатом премии Израиля за достижения в сфере безопасности. Компания предлагает услуги по защите компьютерных систем от новых угроз. Штаб-квартира Skylight Cyber находится в Сиднее (Новый Южный Уэльс, Австралия).

 

Источник: vesty.co.il

Читайте также:

Добавить комментарий

Ваш e-mail не будет опубликован. Обязательные поля помечены *