Власник Twitter, SpaceX і Tesla Ілон Маск, співзасновник Apple Стів Возняк та інші відомі діячі у сфері технологій підписали відкритого листа з проханням зупинити щонайменше на шість місяців навчання систем штучного інтелекту (ШІ), які є більш потужними, ніж GPT-4.

"Ми закликаємо всі лабораторії ШІ негайно призупинити щонайменше на шість місяців навчання всіх ШІ систем, які за потужністю перевершують GPT-4", - йдеться в листі, опублікованому в середу на сайті некомерційної організації Future of Life Institute.

Зазначається, що всі розробники ШІ, на думку авторів листа, мають використати цей час для спільного розроблення та запровадження протоколів безпеки для просунутих систем. Розробникам необхідно сфокусуватися на тому, щоб зробити сучасні ШІ більш безпечними, інтерпретованими, транспарентними.

Лист, окрім Маска і Возняка, підписали співзасновник Skype Яан Таллінн, співзасновник Pinterest Еван Шарп, а також багато інших діячів у технологічній сфері та професори з різних університетів.

"Системи ШІ з інтелектом, який може змагатися з людським, можуть надавати серйозний ризик для суспільства і людства, це позначається у великих дослідженнях і визнається кращими ШІ лабораторіями", - кажуть автори листа.

На їхню думку, останнім часом лабораторії ШІ дедалі активніше розробляють потужні "цифрові уми", які на даному етапі ніхто не здатний зрозуміти, передбачити або надійно контролювати. Сучасні ШІ можуть змагатися з людьми в базових завданнях, і в листі висловлюються побоювання у зв'язку з тим, що вони здатні перевантажити інформаційні канали пропагандою, відібрати роботу в людей і загалом "замінити" їх.

Потужні системи ШІ повинні розроблятися тільки після того, як людство набуде впевненості в їхній користі, а всі ризики, пов'язані з ними, можна буде взяти під контроль, кажуть автори листа.

GPT-4 або Generative Pre-trained Transformer 4 є великою мовною моделлю (ВММ), розробленою американською компанією OpenAI. Вона була випущена 14 березня 2023 року. GPT-4 здатна читати й аналізувати тексти, а також генерувати до 25 тис. слів.