Искусственный интеллект постепенно превращается из обычного чат-бота в инструмент, способный работать с файлами, почтой, браузером и другими программами. О том, какие угрозы это создает, Regions.ru рассказал эксперт по ИИ Игорь Ашманов.
По его словам, обычный чат-бот не может самостоятельно открыть файлы, включить камеру или прочитать переписку без соответствующих разрешений. При этом нейросети уже активно используют киберпреступники. Они помогают искать уязвимости, создавать вредоносные программы и автоматизировать атаки. «Последние несколько лет генерируется несколько десятков тысяч вирусов в день», — отметил Ашманов. По его словам, киберпреступность давно превратилась в конвейер, а ИИ делает этот процесс еще быстрее.
Особую опасность представляют уязвимости нулевого дня — ошибки в программах, о которых еще не знают разработчики. «Сейчас уязвимости нулевого дня ищут самые продвинутые модели искусственного интеллекта», — заявил эксперт. Таким образом, нейросети не обязательно должны самостоятельно взламывать устройства: достаточно помочь злоумышленнику найти способ атаки.
Еще большую угрозу представляют AI-агенты, которым пользователь разрешает работать с файлами, электронной почтой, календарем или браузером. Злоумышленники могут использовать prompt injection — скрытые инструкции в письмах, документах или веб-страницах, которые обрабатывает нейросеть. Если агент не распознает такую манипуляцию, он потенциально может выполнить команду злоумышленника.
Поэтому эксперт рекомендует не предоставлять ИИ лишних полномочий и не загружать в нейросети конфиденциальные документы без необходимости. Особенно осторожно следует относиться к доступу к почте, контактам, файлам и браузеру.
<div class="mediaPollEmbed" data-prerendered><noscript><section><h2>Опрос: как россияне относятся к ИИ рекламе</h2><p>10 вопросов</p><form method="POST" action="https://media-poll.mail.ru/api/8b587c35-6a8b-5d2d-a989-13c44644db98"><fieldset><legend>Можете ли вы отличить рекламу, созданную искусственным интеллектом, от рекламы, сделанной человеком?</legend><label><input type="radio" name="30620" value="105507"/>Да</label><br/><label><input type="radio" name="30620" value="105508"/>Скорее да</label><br/><label><input type="radio" name="30620" value="105509"/>Скорее нет</label><br/><label><input type="radio" name="30620" value="105510"/>Нет</label><br/></fieldset><button type="submit">Далее</button></form></section></noscript></div><script type="text/javascript">(function(window){var mediaPoll=(window.mediaPoll=window.mediaPoll||{});var container=document.currentScript.previousElementSibling;var uuid="8b587c35-6a8b-5d2d-a989-13c44644db98";mediaPoll.loadAPIPromise=mediaPoll.loadAPIPromise||new Promise((resolve,reject)=>{const loadScript=(onload,onerror)=>{var head=document.getElementsByTagName('head')[0];var script=document.createElement('script');script.async=true;script.onload=onload;script.onerror=onerror;script.src='https://media-poll.mail.ru/-/1786454315530/embed/main.js';head.appendChild(script)};loadScript(resolve,()=>{mediaPoll.loadAPIPromise=null;reject()})});mediaPoll.loadAPIPromise.then(()=>{window.mediaPoll.render(uuid,container)})})(window)</script>
