Американська International Business Machines (IBM) на початку грудня виведе на ринок рішення watsonx.governance для контролю за достовірністю інформації, генерованої моделями штучного інтелекту (ШІ), йдеться в пресрелізі компанії.

За даними Barron's, доступ до платформи відкриють 5 грудня. Спочатку вона працюватиме з великими мовними моделями (LLM) самої IBM, а також LLM із репозиторію (сховища даних - ІФ-У) ШІ-стартапу HuggingFace і моделлю Llama 2, випущеною Meta. Підтримка інших моделей з'явиться на початку наступного року.

Watsonx.governance допоможе компаніям забезпечити неупередженість і фактичну точність інформації, що генерується ШІ-моделями, пише видання.

Платформа входить до сімейства програм watsonx, представленого раніше цього року, до якого входять також рішення для роботи з даними (watsonx.data) і навчання ШІ-моделей (watsonx.ai).

"Генеративний (той, що створює контент - ІФ-У) ШІ, в основі якого лежать великі мовні або базові моделі (foundation models), відкриває безліч можливостей перед бізнесом, але також створює ризики та труднощі, зокрема пов'язані з навчанням цих моделей на даних, зібраних по крихтах з різних куточків інтернету, які неможливо з упевненістю назвати справедливими та достовірними, - наголошується у пресрелізі IBM. - Усе це призводить до видачі незрозумілих результатів. Watsonx.governance надає організаціям набір інструментів, необхідний для управління ризиками, а також забезпечення прозорості та відповідності майбутнім нормативним актам у сфері ШІ".

Наприкінці жовтня президент США Джо Байден видав указ, що зобов'язує розробників найпотужніших систем штучного інтелекту надавати владі інформацію про результати їхньої перевірки на безпеку.

"Жодна країна світу досі не вводила в дію таких сильних заходів у сфері ШІ-безпеки та забезпечення довіри до цих технологій, які запроваджує президент Байден, - цитувала Financial Times слова заступника глави апарату Білого дому Брюса Ріда. - Це черговий крок у межах агресивної стратегії, що вимагає докладати на кожному напрямі всіх зусиль для отримання вигоди з ШІ та зниження супутніх ризиків".

На думку старшого віцепрезидента IBM Software з управління продуктами та їхнього розвитку Каріма Юсуфа, чиї слова наводять у пресрелізі IBM, ризики, пов'язані з недостатньою прозорістю ШІ-моделей і неможливістю контролювати достовірність результатів їхнього застосування, стримують компанії на шляху до впровадження таких моделей.