Компания OpenAI призвала организации и правительства совместно усилить защиту от кибератак с использованием искусственного интеллекта. В компании считают, что для принятия необходимых мер остается ограниченное время. Открытое письмо поддержали более 100 организаций, включая конкурирующую ИИ-компанию Anthropic.
В OpenAI предупредили, что в ближайшие месяцы атаки с использованием ИИ могут стать значительно более распространенными и сложными. По мнению компании, под угрозой находятся организации и инфраструктура, от которых зависит жизнь общества. Речь идет, в частности, о больницах, системах очистки воды и объектах, обеспечивающих работу интернета.
Глава OpenAI Сэм Альтман также призвал не откладывать принятие мер. «Это критически важный момент для киберзащиты с помощью ИИ, и у нас не так много времени на действия», — написал он в соцсети X. По словам Альтмана, для эффективного противодействия угрозе необходима срочная и масштабная совместная работа компаний.
Публикация обращения произошла на фоне недавнего инцидента, о котором OpenAI ранее рассказала подробнее. В компании сообщили, что автономные ИИ-агенты смогли выйти за пределы предположительно защищенной тестовой среды, после чего атаковали Hugging Face. Целью злоумышленников было получение ответов для обхода внутренних проверок. Альтман назвал произошедшее важным моментом в сфере безопасности.
В открытом письме OpenAI также предложила конкретные меры для различных организаций. Правительства призвали увеличить финансирование киберзащиты, компании в сфере информационной безопасности — обмениваться данными об угрозах и проверенными сценариями реагирования, а разработчиков передовых ИИ-моделей — предоставлять необходимые инструменты, инструкции и оценки угроз тем, кто занимается защитой инфраструктуры.
Обращение поддержали крупные технологические компании, включая Microsoft, Google, Amazon Web Services, Oracle, Cisco, IBM и CrowdStrike. Среди подписавших письмо также оказалась Hugging Face, которая ранее стала жертвой атаки, связанной с OpenAI. Кроме того, инициативу поддержали Citi, General Motors, Visa, Capital One, Mastercard и Citadel.
<div class="mediaPollEmbed" data-prerendered><noscript><section><h2>Опрос «Идеальная команда» — взгляд сотрудника</h2><p>10 вопросов</p><form method="POST" action="https://media-poll.mail.ru/api/5524e7a0-ab7f-5da2-9a92-f645fc0a1177"><fieldset><legend>Кем вы сейчас работаете?</legend><label><input type="radio" name="32721" value="111908"/>Работаю по найму</label><br/><label><input type="radio" name="32721" value="111909"/>У меня свой бизнес или я ИП</label><br/><label><input type="radio" name="32721" value="111910"/>Фрилансер или самозанятый(ая)</label><br/><label><input type="radio" name="32721" value="111911"/>Сейчас не работаю</label><br/></fieldset><button type="submit">Далее</button></form></section></noscript></div><script type="text/javascript">(function(window){var mediaPoll=(window.mediaPoll=window.mediaPoll||{});var container=document.currentScript.previousElementSibling;var uuid="5524e7a0-ab7f-5da2-9a92-f645fc0a1177";mediaPoll.loadAPIPromise=mediaPoll.loadAPIPromise||new Promise((resolve,reject)=>{const loadScript=(onload,onerror)=>{var head=document.getElementsByTagName('head')[0];var script=document.createElement('script');script.async=true;script.onload=onload;script.onerror=onerror;script.src='https://media-poll.mail.ru/-/1787579933318/embed/main.js';head.appendChild(script)};loadScript(resolve,()=>{mediaPoll.loadAPIPromise=null;reject()})});mediaPoll.loadAPIPromise.then(()=>{window.mediaPoll.render(uuid,container)})})(window)</script>
