IT-гиганты официально обязались следить за безопасностью своих ИИ-систем

Москва. 21 июля. INTERFAX.RU - Американские Amazon.com Inc, Microsoft Corp., Meta (признана в России экстремистской организацией и запрещена), Google, входящая в Alphabet Inc., и еще три компании добровольно приняли на себя обязательства по обеспечению безопасности своих решений в области искусственного интеллекта.

В обсуждении и подготовке новых правил участвовала администрация президента США, сообщает АР со ссылкой на заявление пресс-службы Белого дома.

В частности, компании обязались проверять ИИ-системы на безопасность еще до выпуска, в том числе с привлечением независимых экспертов, информировать участников отрасли, властей и общественность об управлении ИИ-рисками, инвестировать в кибербезопасность и содействовать выявлению уязвимостей в своих системах.

Кроме того, компании будут разрабатывать механизмы, которые позволят отличать обычный контент от созданного искусственным интеллектом, включая предполагающие использование водяных знаков, а также публично информировать о возможностях, ограничениях и видах надлежащего и ненадлежащего использования своих ИИ-систем.

Фирмы, в число которых помимо вышеуказанных входят OpenAI, разработавшая популярный чат-бот ChatGPT, и стартапы Anthropic и Inflection, также обязались уделять повышенное внимание анализу потенциальных общественных рисков, связанных с использованием ИИ-систем.

Резкий рост коммерческих инвестиций в инструменты генеративного (создающего контент - ИФ) ИИ, которые могут создавать новые изображения и писать тексты, похожие на произведения человека, вызвали у людей не только восхищение, но и обеспокоенность способностью таких инструментов вводить пользователей в заблуждение и распространять дезинформацию, отмечает AP. На генеративном искусственном интеллекте, в частности, основан ChatGPT.

Новости

 
window.yaContextCb.push( function () { Ya.adfoxCode.createAdaptive({ ownerId: 173858, containerId: 'adfox_151179074300466320', params: { p1: 'csljp', p2: 'hjrx', puid1: '', puid2: '', puid3: '' } }, ['tablet', 'phone'], { tabletWidth: 1023, phoneWidth: 639, isAutoReloads: false }); setTimeout(function() { if (document.querySelector('[id="adfox_151179074300466320"] [id^="adfox_"]')) { // console.log("вложенные баннеры"); document.querySelector("#adfox_151179074300466320").style.display = "none"; } }, 1000); });