Хотите более умное понимание в вашем почтовом ящике? Подпишитесь на наши еженедельные информационные бюллетени, чтобы получить только то, что имеет значение для искусственного интеллекта предприятия, данных и лидеров безопасности. Подписаться сейчас
Новое исследование Security Security показывает, как взрывной рост генеративного ИИ создает новые проблемы кибербезопасности для предприятий. Поскольку такие инструменты, как CHATGPT, становятся укоренившимися в ежедневных рабочих процессах, предприятия должны срочно переоценить свои стратегии безопасности.
«Сотрудники интегрируют ИИ в свою ежедневную работу. Управление не может просто заблокировать его, но мы также не можем позволить ему раскошелиться», — сказал Эндрю Хардинг, вице -президент по маркетингу продуктов в Menlo Security, в эксклюзивном интервью VentureBeat. «Был последовательный рост в посещениях и пользователях Power Powers на сайтах ИИ, но проблемы сохраняются в области безопасности и ИТ -команд. Нам нужны инструменты, которые применяют элементы управления для инструментов ИИ и помогают CISO управлять этим риском при поддержке повышения производительности и понимания, которые Genai может генерировать».
Всплеск использования и злоупотребления ИИ
В новом отчете Menlo Security рисует картина. Посещения генеративных сайтов искусственного интеллекта на предприятиях взлетели более чем на 100% за последние 6 месяцев. Количество частых генеративных пользователей ИИ также подскочило на 64% за тот же период. Но эта вездесущая интеграция в ежедневные рабочие процессы взорвала опасные новые уязвимости.
В то время как многие организации заслуживают похвалы ведут больше политик безопасности в отношении генеративного использования ИИ, большинство из них используют неэффективный подход с доменом, по словам исследователей. Как сказал Хардинг VentureBeat, «организации усиливают меры безопасности, но есть улов. Большинство применяют эти политики только на доменной основе, что больше не разрезает его».
Эта частичная тактика просто не может идти в ногу, поскольку новые генеративные платформы ИИ постоянно появляются. В отчете показано, что попытка загрузки файлов на генеративные сайты искусственного интеллекта усиливают тревожные 80% в течение 6 месяцев — прямой результат дополнительной функциональности. И риски выходят далеко за рамки потенциальной потери данных за счет загрузки.
Исследователи предупреждают генеративное ИИ может серьезно усилить фишинговые мошенничества. Как отметил Хардинг, «фишинга с AI-это просто более умная фишинга. Предприятиям нужна фишинговая защита в реальном времени, которая не позволит« Pope »Openai« фиш »вообще вообще-то в первую очередь».
От новизны к необходимости
Так как же мы сюда попали? Генеративный ИИ, казалось бы, взорвался в одночасье, когда Чатгпт-Мания охватил мир. Тем не менее, технология появилась постепенно в течение многих лет исследований.
OpenAI запустила свою первую генеративную систему ИИ под названием GPT-1 (генеративный предварительно обученный трансформатор) в июне 2018 года. Эти и другие ранние системы были ограничены, но продемонстрировали потенциал. В апреле 2022 года Google Brain построил на этом PALM — модель ИИ с 540 миллиардами параметров.
Когда в начале 2021 года Openai обнародовал Dall-E для генерации изображений, генеративный ИИ захватил широкую общественную интригу. Но в ноябре 2022 года это был дебют Openai’s Chatgpt, который действительно зажег безумие.
Почти сразу же пользователи начали интегрировать CHATGPT и аналогичные инструменты в свои ежедневные рабочие процессы. Люди случайно запрашивали бота на все, от создания идеального электронного письма до отладки кода. Оказалось, что ИИ мог сделать почти все.
Но для предприятий эта метеорическая интеграция внесла основные риски, которые часто упускают из виду в обмане. Генеративные системы ИИ по своей природе столь же безопасны, этические и точные, как данные, используемые для их обучения. Они могут невольно выявлять смещения, делиться дезинформацией и передавать конфиденциальные данные.
Эти модели получают учебные данные из обширных полов общедоступного Интернета. Без строгого мониторинга существует ограниченный контроль над тем, какой контент принимается. Так что, если проприетарная информация будет размещена в Интернете, модели могут легко воспринимать эти данные, а затем разглашать их.
Исследователи также предупреждают генеративное ИИ также может серьезно усилить фишинговые мошенничества. Как сказал Хардинг VentureBeat, «фишинга с AI-это просто более умная фишинга. Предприятиям нужна фишинговая защита в реальном времени, которая не позволит« Pope Phish »в первую очередь.
Баланс
Так что же можно сделать, чтобы сбалансировать безопасность и инновации? Эксперты выступают за многослойный подход. Как рекомендует Хардинг, это включает в себя «ограничения копирования и вставки, политики безопасности, мониторинг сеанса и элементы управления на уровне группы на генеративных платформах искусственного интеллекта».
Прошлое доказывает пролог. Организации должны учиться на предыдущих точках технологического перегиба. Широко используемые технологии, такие как Cloud, Mobile и Web, по своей природе ввели новые риски. Компании постепенно адаптировали стратегии безопасности, чтобы с течением времени соответствовать развивающимся технологическим парадигмам.
Тот же измеренный, проактивный подход требуется для генеративного ИИ. Окно для действия быстро закрывается. Как предупреждал Хардинг, «наблюдался постоянный рост в генеративных посещениях сайта ИИ и энергетических пользователей на предприятии, но проблемы сохраняются для безопасности и ИТ -команд».
Стратегии безопасности должны развиваться — и быстро — чтобы соответствовать беспрецедентному принятию генеративного ИИ в разных организациях. Для предприятий необходимо найти баланс между безопасностью и инновациями. В противном случае, генеративный ИИ рискует выходить из -под контроля.
Источник
