Microsoft запрещает полицейским управлениям США использовать инструмент корпоративного искусственного интеллекта
Microsoft запретила полиции США запускать службы генеративного искусственного интеллекта, работающие на сервисе Azure OpenAI. Это новый подход, описанный в обновленных условиях обслуживания в среду, и направленный на решение растущей этической дилеммы, с которой сталкивается ИИ в правоохранительных органах.
Обновление политики подчеркивает этические проблемы
Пересмотренные условия прямо предусматривают, что такие дополнения не могут использоваться правоохранительными органами США «или для них». Это ограничение также включает модели анализа текста и речи, подчеркивая акцент Microsoft на ответственном использовании искусственного интеллекта. В качестве дополнительного постановления был введен отдельный пункт, запрещающий использование технологии распознавания лиц в реальном времени на мобильных камерах, в том числе нательных камерах и видеорегистраторах, в неконтролируемых средах.
Поводом для этих движений можно назвать недавние достижения в технологическом секторе. Axon, известная технологическая компания, специализирующаяся на военном и правоохранительном секторе, только что анонсировала продукт, который использует модель вербализатора OpenAI с генеративным текстом GPT-4 для обобщения звука, записанного нательными камерами. Полученная ложная информация и предвзятость в отношении расовой принадлежности в данных обучения были устранены, чтобы сразу показать обеспокоенность некоторых критиков.
Последствия и пространство для интерпретации
Хотя обновленная политика отражает решающую позицию Microsoft, она по-прежнему допускает интерпретацию. Запрет на службу Azure OpenAI распространяется на полицию США только по мере продолжения международного развертывания. Более того, ограничения на использование технологии распознавания лиц распространяются только на ее использование правоохранительными органами США, за исключением фиксированных камер в контролируемых средах.
Такая сбалансированная методология хорошо вписывается в широкую стратегию Microsoft в области искусственного интеллекта для правоохранительных органов и обороны. Между тем, несмотря на запреты на определенные виды использования, постепенно налаживается сотрудничество между OpenAI и правительственными учреждениями, ярким примером которого является Пентагон. Такие партнерства сигнализируют об изменении позиций OpenAI, а также Microsoft, которая ищет возможности применения искусственного интеллекта в военных технологиях.
Участие государства и динамика отрасли
Внедрение службы Microsoft Azure OpenAI в правительстве ускорилось, поскольку Azure Government включает в себя дополнительные инструменты обеспечения соответствия и управления для случаев использования правоохранительными органами. Кэндис Линг, старшему вице-президенту Microsoft Federal, будет поручено получить дополнительные разрешения Министерства обороны для службы Azure OpenAI, тем самым продемонстрировав, что платформа может быть полезна в срочных миссиях.
Динамичная область этики и регулирования ИИ заставляет технологические компании заранее предпринимать продуманные действия. Своим решением избегать использования ИИ в правоохранительных органах Microsoft демонстрирует более широкую отраслевую тенденцию к повышению подотчетности и прозрачности при внедрении ИИ. Во время разговоров о регулировании ИИ поставщикам технологий, политикам и группам активистов придется работать вместе для этического решения новых проблем.
Решение Microsoft запретить полицейским управлениям США использовать службу Azure OpenAI для определенных сценариев является свидетельством целенаправленного и целенаправленного подхода, который компания применяет для решения этических проблем, связанных с развертыванием искусственного интеллекта. Действительно, поправка демонстрирует искренность политиков и сложности, связанные с этим балансирующим действием. По мере развития этических дискуссий вокруг ИИ заинтересованные стороны всегда должны участвовать в конструктивном диалоге для обеспечения ответственного роста и реализации ИИ.