Microsoft отчиталась об усилиях в области ответственного ИИ
- Компания поделилась отчетом о прозрачности искусственного интеллекта за 2023 год, где описала усилия по созданию ответственного ИИ.
- Техногигант разработал 30 таких инструментов, расширил команду разработчиков и обязал создателей генеративного искусственного интеллекта регистрировать риски безопасности.
Корпорация Microsoft опубликовала отчет о прозрачности ИИ за 2023 год. В нем компания описала достижения в развертывании ответственных систем искусственного интеллекта.
Ежегодный отчет о прозрачности ИИ — одно из обязательств, которые техногигант взял на себя после подписания добровольного соглашения с Белым домом в июле 2023 года. Microsoft и другие компании пообещали создать ответственные системы искусственного интеллекта и обеспечить безопасность.
Согласно отчету корпорации, за последний год она реализовала 30 таких инструментов. Также фирма расширила команду по ответственному ИИ и потребовал от разработчиков генеративных систем искусственного интеллекта измерять и отображать риски на протяжении всего цикла создания.
Компания отметила, что добавила функцию «Учетные данные для содержимого» к платформам генерации изображений. Она помещает на фотографию водяной знак, определяющий рисунок как созданный с помощью алгоритма.
По словам Microsoft, она предоставила клиентам Azure AI доступ к инструментам идентификации проблемного контента вроде разжигания ненависти, сексуального характера и членовредительства. Также они могут использовать системы оценки рисков безопасности, включая новые методы обнаружения джейлбрейков.
Компания также расширила усилия по созданию «красных команд» . Они включают как собственные группы, которые намеренно пытаются обойти функции безопасности в ИИ-моделях, так и приложения, позволяющие проводить сторонние испытания перед запуском новых алгоритмов.
Однако у «красных команд» Microsoft все еще есть проблемы. Развертывание компанией искусственного интеллекта не застраховано от противоречий.
В феврале 2023 года корпорация представила чат-бот Bing. Позже пользователи обнаружили, что система способна выдавать неверные факты, обучать оскорблениям на этнической почве и генерировать картинки вроде «Губка Боб Квадратные Штаны летит на самолете к башням-близнецам».
«Ответственный ИИ не имеет финишной черты, поэтому никогда не получится считать работу в рамках “Добровольных обязательств по ИИ” выполненной. Но с момента подписания соглашения компания добилась значительного прогресса и планирует наращивать темпы в 2024 году», — заявила директор по ответственному ИИ в Microsoft Наташа Крэмптон The Verge.
Ранее восемь американских изданий подали в суд на Microsoft и OpenAI из-за якобы «похищения миллионов» защищенных авторским правом статей для обучения чат-ботов ChatGPT и Copilot.
Дисклеймер: содержание этой статьи отражает исключительно мнение автора и не представляет платформу в каком-либо качестве. Данная статья не должна являться ориентиром при принятии инвестиционных решений.
Вам также может понравиться
Трамп: война между Россией и Украиной должна закончиться, и она скоро закончится
Председатель ФРС Пауэлл: ФРС не может контролировать долгосрочные процентные ставки
Председатель ФРС Пауэлл: По закону президент не может отстранить члена совета ФРС
Председатель ФРС Пауэлл: ФРС не должна комментировать тарифную политику
Популярное
ДалееЦены на крипто
Далее![Bitcoin](https://img.bgstatic.com/multiLang/coinPriceLogo/bitcoin.png)
![Ethereum](https://img.bgstatic.com/multiLang/coinPriceLogo/ethereum.png)
![Tether USDt](https://img.bgstatic.com/multiLang/coinPriceLogo/0208496be4e524857e33ae425e12d4751710262904978.png)
![XRP](https://img.bgstatic.com/multiLang/coinPriceLogo/ripple.png)
![Solana](https://img.bgstatic.com/multiLang/coinPriceLogo/solana.png)
![BNB](https://img.bgstatic.com/multiLang/coinPriceLogo/binance.png)
![USDC](https://img.bgstatic.com/multiLang/coinPriceLogo/usdc.png)
![Dogecoin](https://img.bgstatic.com/multiLang/coinPriceLogo/dogecoin.png)
![Cardano](https://img.bgstatic.com/multiLang/coinPriceLogo/cardano.png)
![TRON](https://img.bgstatic.com/multiLang/coinPriceLogo/tron.png)