Появляется и процветает новая волна чат-ботов на черном рынке
Чат-боты черного рынка стали одной из последних новых тенденций в индустрии искусственного интеллекта и процветают, поскольку вредоносные модели большого языка (LLM) зарабатывают деньги для своих создателей.
Американское исследование показало, что существует процветающий черный рынок искусственного интеллекта, на котором незарегистрированные LLM зарабатывают деньги, тайно продавая свои услуги. Зарегистрированные публичные компании, такие как OpenAI, Perplexity и другие крупные компании, предлагающие те же услуги, следуют нормативным требованиям.
Подпольные LLM могут уклоняться от антивирусов
В исследовании, которое было сосредоточено в первую очередь на Малле, экосистеме, которая процветает за счет уничтожения легальных LLM и коммерческих платформ искусственного интеллекта, было изучено 212 LLM черного рынка, зарегистрированных на подпольных рынках в период с апреля по октябрь 2023 года, и оценены их характеристики.
Один из авторов, Зилонг Линь из Университета Индианы, сказал:
«Мы обнаружили, что большинство мала-сервисов на подпольных форумах существуют в первую очередь для получения прибыли».
Исследование также показало, что некоторые платформы зарабатывают до 28 000 долларов за два месяца на подписках и покупках у людей, которые хотят выйти за рамки регулируемого искусственного интеллекта.
Некоторые из них, такие как DarkGPT и EscapeGPT, представляют собой просто лицензированные производные LLM для джейлбрейка, которые используются легально.
Отдельное исследование также показало, что эти незаконные LLM можно использовать для многих видов деятельности, например для создания фишинговых электронных писем. Например, DarkGPT и EscapeGPT почти в 75% случаев могут создавать правильные коды, но антивирусы не могут их подобрать.
Другая модель, известная как WolfGPT, считается «мощным инструментом» для создания фишинговых писем и обхода детекторов спама.
По мнению Эндрю Хундта, эксперта по компьютерным инновациям из Университета Карнеги-Мелло, бум на подпольном рынке искусственного интеллекта должен вызывать беспокойство.
Он призвал ввести юридическое требование о том, чтобы компании, разрабатывающие LLM, имели надежные системы, предотвращающие копирование людьми со зловещими мотивами.
«Нам также нужны правовые рамки, гарантирующие, что компании, которые создают эти модели и предоставляют услуги, делают это более ответственно, чтобы снизить риски, создаваемые злоумышленниками», — сказал Хундт.
Понимание того, как работают чат-боты черного рынка, имеет решающее значение
Профессор Сяофэн Ван из Университета Индианы, принимавший участие в исследовании, сказал, что важно понять, как работают эти программы LLM на черном рынке, чтобы решения были специфичными для выявленных проблем.
Профессор Ван добавил, что манипулирования этими LLM невозможно избежать, что дает отрасли возможность создать надежные меры защиты для минимизации потенциального ущерба, нанесенного кибератаками во всех их формах.
«Мы считаем, что сейчас хороший этап для начала их изучения, потому что мы не хотим ждать, пока большой ущерб уже будет нанесен».
Профессор Ван.
По словам профессора, каждая технология, в том числе и LLM, проявляется в двух аспектах: положительной и отрицательной.
Эксперты по кибербезопасности уже призывают индустрию искусственного интеллекта замедлиться и задуматься о растущей опасности фальсификации их технологий анонимными интернет-сообществами.
В статье Forbes, опубликованной в конце прошлого года, говорится, что необходимо ответственно внедрять новые идеи, особенно в области LLM. Он также подчеркнул роль регулирования в продвижении ответственных инноваций в области ИИ, в отличие от ошибочного представления о том, что регулирование сдерживает развитие.
«Разработчикам и поставщикам LLM необходимо передохнуть от безумной гонки вооружений, чтобы выпускать все более сложные модели, и вместо этого им следует работать с регулирующими органами над принятием рамок этического проектирования и использования генеративных приложений ИИ», — читаем мы в части отчета. . .
Теперь, по мнению Fast Company, из-за пробелов в законодательстве черный рынок искусственного интеллекта также быстро превращается в многомиллионную индустрию, и для его сдерживания могут потребоваться обширные ресурсы.