Штучний інтелект (ШІ) може реально покращити життя людства, але за поточної відсутності контролю він розвивається із небезпечною швидкістю на користь всього кількох країн та компаній, що збільшує нерівність у світі та загрожує замінити правду ефективною брехнею, заявив генеральний секретар ООН Антоніо Гутерреш на першому Глобальному діалозі з питань управління ШІ, який почав цього тижня роботу в Женеві (Швейцарія) за участі 193 країн.
"Штучний інтелект вже трансформує наш світ. Питання полягає в тому, чи будемо ми формувати цю трансформацію разом, чи дозволимо їй формувати нас… Ми можемо бути останнім поколінням, здатним встановити умови співіснування людства та машин", – заявив він у вступному слові.
На думку генсека ООН, технологія, яка може змінити економіку, трансформувати світ праці, вплинути на вибори та змінити баланс безпеки, розгортається швидше, ніж будь-хто, включаючи людей, які її створюють, думає, і цей експеримент проводиться на наших власних суспільствах – без плану та без згоди.
Гуттереш повідомив, що для Глобального діалогу незалежна міжнародна наукова група з 40 провідних експертів з кожного регіону та різних дисциплін представила свій перший звіт, в якому є три основні попередження.
Перше стосується швидкості: якщо Інтернету знадобилося 15 років, щоб охопити мільярд людей, то ШІ досяг цього за два роки, і ці системи більше не є інструментами, що чекають на інструкції, – вони самі пишуть код, діють онлайн і роблять вибір з дедалі меншим людським наглядом.
Друге попередження стосується влади: обчислювальна потужність, дані та таланти, що стоять за найсучаснішими системами, зосереджені в кількох компаніях і в кількох країнах. "Більшість країн, включаючи багато країн, що розвиваються, не мала права голосу в рішеннях, які формуватимуть їхнє майбутнє. Що довше ми чекаємо, то важче стає ця концентрація. Коли дисбаланс влади жорстко впроваджується в технології, нерівність стає частиною коду", – пояснив цю загрозу Гуттереш.
Третє попередження, за його словами, стосується правди: брехня, що використовується машинами, тепер може переконувати так само ефективно, як і правда, що підриває цілісність інформаційної екосистеми та довіру, а суспільство, яке не може дійти згоди щодо того, що є реальним, не може захистити себе.
Генсек ООН також звернув увагу, що дедалі більше людей спокушається довіряти машині та сподіватися на краще, покладаючись на "кодування настроїв" (vibe-coding).
В той же час він наголосив, що потенціал покращення життя за рахунок ШІ також реальний: нові можливості лікування та навчання навіть у віддалених місцях, збільшення ефективності агробізнесу, тощо – і все це відбувається значно швидше, ніж колись впроваджувалися антибіотики або електрика.
"Якщо ШІ правильно використовувати та широко поширювати, він може стиснути десятиліття розвитку в роки та стати великим вирівнювачем XXI століття. Але жодне майбутнє не будується саме собою. І тому вибір перед нами не між вірою в ШІ чи страхом перед ним, а між цілеспрямованим управлінням і дрейфом за замовчуванням", – вважає Гуттереш.
Він нагадав, що вперше порушив цю тему, коли вона ще була малопопулярною, ще у своєму першому зверненні на відкритті Генеральної Асамблеї у 2017 році, і завдяки наполегливій роботі ООН у 2024 році отримала мандат через прийнятий Пакт майбутнього та Глобальний цифровий договір.
Генсек ООН назвав чотири пріоритети на майбутнє, які, в тому числі, обговорюватимуться цього тижня в Женеві самітом "Штучний інтелект заради добра".
Першим він виділив безпеку: коли країни узгоджують свої дії щодо того, як тестувати системи, вимірювати ризики та розподіляти відповідальність. "Нам потрібні спільні методи оцінки та перевірки ризиків. І спільна рішучість щодо того, що системи з глобальним охопленням повинні відповідати стандартам, гідним глобальної довіри", – зазначив Гуттереш, звернувши особливу увагу на захист дітей, які вже потерпають від ШІ.
Він запропонував три правила для будь-якої ШІ-системи, до якої може отримати доступ дитина: тестування на безпеку та незалежний нагляд; нульова толерантність до сексуального насильства; можливість у момент, коли дитина проявляє ознаки страждань, зупинитися та підключити дитину до реальної людської підтримки.
Другим пріоритетом генсек ООН назвав дотримання права людини. "Штучний інтелект ніколи не повинен позбавляти гідності або закріплювати дискримінацію. І в кожному важливому рішенні – у сфері правосуддя, охорони здоров'я, поліції – машини можуть інформувати, але люди повинні вирішувати – і відповідати", – пояснив він.
Третій пріоритет, на думку Гуттереша, спроможність, щоб країни, котрі розвиваються, отримали доступ до потенціалу ШІ в умовах, коли приватні інвестиції в його інфраструктуру минулого року наблизилися вже до $0,5 трлн. Генсек ООН пропонує подолати розрив у сфері ШІ через Глобальну мережу обміну та співпраці з питань нарощування потенціалу в галузі ШІ, що підтримується ООН. За його словами, вже понад 20 держав-членів відгукнулися на запрошення та номінували свої центри до цієї мережі.
"І я незабаром подам Генеральній Асамблеї свої рекомендації щодо Глобального фонду ШІ для розвитку навичок, даних та доступної обчислювальної потужності повсюди", – додав очільник організації.
Четвертим пріоритетом він назвав Ініціативу екологічної прозорості ШІ, щоб кожна велика компанія, котра займається ШІ, вимірювала та публічно розкривала повний вплив своїх систем – вуглецевий, водний та земельний – і взяла на себе зобов'язання забезпечити кожен центр обробки даних (ЦОД) відновлюваною енергією до 2030 року.
