Google, Microsoft, Openai делают AI -обещания перед Мюнхенской конференцией безопасности

В так называемой кибербезопасности «дилемма защитника» хорошие парни всегда бегают, бегают, бегают и постоянно поддерживают свою охрану-в то время как злоумышленники, с другой стороны, нужна только одна небольшая возможность, чтобы прорваться и нанести какой-то настоящий ущерб.

Но, говорит Google, защитники должны принять расширенные инструменты ИИ, чтобы помочь нарушить этот утомительный цикл.

Чтобы поддержать это, Tech Giant сегодня опубликовал новую «Инициативу кибер-обороны AI» и взял на себя несколько обязательств, связанных с AI, впереди Munich Security Conference (MSC), наступившего завтра (16 февраля).

Объявление было сделано через день после того, как Microsoft и Openai опубликовали исследование о состязательном использовании CHATGPT и сделали свои собственные обещания для поддержки «безопасного и ответственного» использования ИИ.

Поскольку правительственные лидеры со всего мира собираются вместе, чтобы обсудить международную политику безопасности в MSC, ясно, что эти тяжелые нападающие ИИ стремятся проиллюстрировать свою проактивность, когда речь идет о кибербезопасности.

«Революция искусственного интеллекта уже идет», — сказал Google в блоге сегодня. «Мы… взволнованы потенциалом ИИ решить проблемы безопасности поколений, при этом приближая нас к безопасному, надежному и надежному цифровому миру, которого мы заслуживаем».

Google инвестиции в инфраструктуру, готовые к Ai-i-i-ead, новые инструменты и исследования

В Мюнхене более 450 старших лидеров, принимающих решения, и лидеров мышления и бизнеса, чтобы обсудить такие темы, как технология, трансатлантическая безопасность и глобальный порядок.

«Технология все больше пронизывает все аспекты того, как государства, общества и частные лица преследуют свои интересы», — заявляет MSC на своем веб -сайте, добавив, что конференция направлена на продвижение дебатов по регулированию технологий, управлению и использованию «для содействия инклюзивной безопасности и глобальному сотрудничеству».

ИИ является однозначно главным духом для многих мировых лидеров и регуляторов, поскольку они пытаются не только понять технологию, но и опережать ее использование злонамеренными субъектами.

По мере того, как событие разворачивается, Google берет на себя обязательства по инвестированию в «готовую инфраструктуру», выпускает новые инструменты для защитников и запускает новые исследования и обучение по безопасности искусственного интеллекта.

Сегодня компания объявляет о новой группе «ИИ для кибербезопасности» из 17 стартапов из США, Великобритании и Европейского Союза в рамках программы ИИ в Академии роста Google для стартапов.

«Это поможет укрепить экосистему трансатлантической кибербезопасности со стратегиями интернационализации, инструментами ИИ и навыками их использования», — говорится в компании.

Google также будет:

• Расширить свою программу семинаров по кибербезопасности на 15 миллионов долларов США, чтобы охватить всю Европу и помочь обучить специалистов в области кибербезопасности в недостаточно обслуживаемых сообществах.
• Magika с открытым исходным кодом, новый инструмент с AI, направленный на то, чтобы помочь защитникам через идентификацию типа файла, что важно для обнаружения вредоносных программ. Google сообщает, что платформа превосходит обычные методы идентификации файлов, обеспечивая повышение точности на 30% и до 95% выше контента, такого как VBA, JavaScript и PowerShell, который часто трудно идентифицировать.
• Предоставить 2 миллиона долларов на исследовательские гранты для поддержки исследовательских инициатив в области ИИ в Чикагском университете, Университете Карнеги-Меллона и Стэнфордском университете, среди прочих. Цель состоит в том, чтобы улучшить проверку кода, улучшить понимание роли ИИ в кибер-нарушении и защите и разработать более устойчивые к угрозам большие языковые модели (LLMS).

Кроме того, Google указывает на свою безопасную структуру искусственного интеллекта, запущенную в июне прошлого года, чтобы помочь организациям по всему миру сотрудничать с лучшими практиками для обеспечения ИИ.

«Мы считаем, что технологии безопасности ИИ, как и другие технологии, должны быть в безопасности по дизайну и по умолчанию», — пишет компания.

В конечном счете, Google подчеркивает, что миру нуждаются в целевых инвестициях, партнерских отношениях с правительством отрасли и «эффективными регулирующими подходами», чтобы помочь максимизировать ценность искусственного интеллекта, ограничивая его использование злоумышленниками.

«Выбор управления ИИ, сделанный сегодня, может сместить местность в киберпространстве непреднамеренными способами», — пишет компания. «Нашим обществам нужен сбалансированный регулирующий подход к использованию ИИ и усыновлению, чтобы избежать будущего, в котором злоумышленники могут инновации, но защитники не могут».

Microsoft, Openai, борющаяся с злонамеренным использованием искусственного интеллекта

Между тем, в своем совместном объявлении на этой неделе Microsoft и Openai отметили, что злоумышленники все чаще рассматривают ИИ как «другой инструмент производительности».

Примечательно, что Openai заявила, что прекратила счета, связанные с пятью государственными участниками угроз из Китая, Ирана, Северной Кореи и России. Эти группы использовали Chatgpt для:

• Код отладки и создание сценариев
• Создать контент, вероятно, для использования в фишинговых кампаниях
• Перевести технические документы
• Получить общедоступную информацию о уязвимости и нескольких разведывательных агентствах
• Изучить общие способы, которыми вредоносное ПО может уклониться от обнаружения
• Выполните исследование с открытым исходным кодом в протоколах спутниковой связи и технологии радиолокационной визуализации

Однако компания быстро указала, что «наши выводы показывают, что наши модели предлагают лишь ограниченные, постепенные возможности для вредоносных задач кибербезопасности».

Обе компании пообещали обеспечить «безопасное и ответственное использование» технологий, включая CHATGPT.

Для Microsoft эти принципы включают:

• Выявление и действие против использования субъекта злонамеренной угрозы, такого как отключение счетов или прекращение услуг.
• Уведомление других поставщиков услуг ИИ и обмен соответствующими данными.
• Сотрудничество с другими заинтересованными сторонами в области использования AIS -актеров угроз.
• Информирование общественности о обнаруженном использовании ИИ в их системах и мерах, принятых против них.

Точно так же Openai обещает:

• Мониторинг и разрушить злонамеренные актеры, связанные с государством. Это включает в себя определение того, как злонамеренные субъекты взаимодействуют со своей платформой и оценивают более широкие намерения.
• Работа и сотрудничать с «Экосистемой ИИ»
• Обеспечить общественную прозрачность о характере и масштабе злоумышленников, связанных с государством, используют ИИ и меры, принятые против них.

Как преступные, так и спонсируемые государством актеры, усиливая атаки

Команда Google по разведке угроз заявила в подробном отчете, опубликованном сегодня, что он отслеживает тысячи злонамеренных актеров и семейств вредоносных программ, и обнаружила, что:

• Злоумышленники продолжают профессионализировать операции и программы
• Наступательные киберпрезистенные возможности теперь являются главным геополитическим приоритетом
• Тактика групп актеров угрозы теперь регулярно уклоняться от стандартного контроля
• Беспрецедентные события, такие как российское вторжение в Украину Марк. Первые кибер -операции сыграли важную роль в войне

Исследователи также «с высокой уверенностью« оценивают », что« Большая четверка »Китай, Россия, Северная Корея и Иран будут продолжать представлять значительные риски по географии и секторам. Например, Китай вкладывает значительные средства в оскорбительный и защитный ИИ и занимается личными данными и кражей IP, чтобы конкурировать с США

Google отмечает, что злоумышленники, в частности, используют ИИ для социальной инженерии и информационных операций, разрабатывая еще более сложные фишинги, SMS и другие инструменты для приманки, фальшивые новости и глубокие ножки.

«По мере развития технологии ИИ, мы считаем, что она может значительно увеличить вредоносные операции», — пишут исследователи. «Правительство и промышленность должны масштабироваться, чтобы соответствовать этим угрозам с помощью сильных программ разведки угроз и надежного сотрудничества».

Унравия «дилемму защитников»

С другой стороны, ИИ поддерживает работу защитников в обнаружении и исправлении уязвимостей, ответе на инциденты и анализе вредоносных программ, отмечает Google.

Например, ИИ может быстро суммировать интеллект угроз и отчеты, суммировать расследование дела и объяснить подозрительное поведение сценария. Аналогичным образом, он может классифицировать категории вредоносных программ и определять приоритеты угроз, определять уязвимости безопасности в коде, запустить моделирование пути атаки, контролировать производительность управления и оценивать риск раннего отказа.

Кроме того, Google говорит, что ИИ может помочь нетехническим пользователям генерировать запросы на естественном языке; Разработать оркестровку безопасности, автоматизацию и воспроизведения воспроизведения; и создать правила и политики управления идентификацией и доступом (IAM).

Например, группы Google по обнаружению и реагированию используют Gen AI для создания резюме инцидентов, в конечном итоге восстанавливая более 50% своего времени и дают результаты более качественных результатов в результате анализа инцидентов.

Компания также улучшила свои показатели обнаружения спама примерно на 40% с новой многоязычной моделью обработки текста на основе нейро. И его Gemini LLM фиксирует 15% ошибок, обнаруженных инструментами дезинфицирующих средств, и обеспечивает увеличение покрытия кода до 30% в более чем 120 проектах, что приводит к новым обнаружению уязвимости.

В конце концов, исследователи Google утверждают: «Мы считаем, что ИИ дает лучшую возможность обновлять дилемму защитника и наклонить шкалы киберпространства, чтобы дать защитникам решающее преимущество перед злоумышленниками».