Засновник OpenAI Сем Альтман опублікував колонку про те, як він бачить майбутнє штучного інтелекту та його вплив на економіку й суспільство. Зокрема він бачить AGI (штучний загальний інтелект) як наступний етап еволюції робочих інструментів людства.

Наводимо скорочений переклад статті.

AGI на користь людству

Системи, що починають наближатися до AGI, вже з’являються на обрії, і тому важливо усвідомити, в якому моменті ми знаходимося.

Люди — це творці інструментів із вродженим прагненням розуміти й творити, що покращує життя для всіх нас. Кожне нове покоління спирається на відкриття попередніх, створюючи все потужніші інструменти — електрику, транзистор, комп’ютер, інтернет і невдовзі AGI.

Невпинний хід людських інновацій призвів до рівня добробуту та покращень, які колись були немислимими, і це стосується майже всіх аспектів нашого життя.

У певному сенсі, AGI — це просто черговий інструмент у цій дедалі вищій «споруді» людського прогресу, яку ми зводимо разом. У іншому ж сенсі, це початок чогось, про що важко не сказати «цього разу все інакше»; очікуване економічне зростання виглядає приголомшливим, і тепер можна уявити світ, у якому ми виліковуємо всі хвороби, маємо значно більше часу для родин і можемо цілковито реалізувати свій творчий потенціал.

Через десять років, можливо, кожна людина на Землі зможе зробити більше, ніж сьогодні може найбільш впливова особа.

Три спостереження про економіку ШІ

1. Інтелект моделі ШІ приблизно відповідає логарифму ресурсів, витрачених на її навчання та використання. Ці ресурси переважно складаються з даних, обчислювальних потужностей для навчання та виконання. Можна витратити будь-які суми грошей і домогтися безперервного й передбачуваного зростання.
2. Вартість використання певного рівня ШІ знижується приблизно у 10 разів щодванадцять місяців, і нижча ціна призводить до значно ширшого використання. Прикладом є вартість токенів у GPT-4 на початку 2023 року порівняно з GPT-4o у середині 2024-го, де ціна за токен знизилася приблизно у 150 разів за цей період. Закон Мура змінив світ, збільшуючи продуктивність удвічі кожні 18 місяців; тут же спостерігається набагато сильніше прискорення.
3. Соціально-економічна цінність лінійного зростання інтелекту є суперекспоненційною за своєю природою. Як наслідок, ми не бачимо причин, чому експоненційне зростання інвестицій могло б зупинитися в найближчому майбутньому.

Якщо ці три спостереження залишаться вірними, вплив на суспільство буде значним.

Агентів на основі ШІ як віртуальні колеги в майбутньому

Уявімо агента для розробки програмного забезпечення, який з часом зможе робити більшість того, що робить інженер-програміст у провідній компанії з кількома роками досвіду, у розрахунку на завдання тривалістю до кількох днів. Він не матиме принципово нових ідей, йому знадобиться багато людського нагляду й керівництва, у деяких речах він буде чудовим, а в деяких — дивовижно слабким.

Однак, уявіть собі реального, але відносно «молодшого» віртуального колегу. А потім уявіть тисячу таких колег. Або мільйон. А потім уявіть таких агентів у кожній сфері інтелектуальної праці.

ШІ як «транзистор» для технічного прогресу

У деяких аспектах ШІ може виявитися чимось на кшталт «транзистора» з погляду економіки — великим науковим відкриттям, що добре масштабується і проникає у всі галузі економіки. Ми зазвичай навіть не замислюємося про транзистори чи компанії, які їх виготовляють, а прибутки від них дуже широко розподілені. Однак ми очікуємо, що наші комп’ютери, телевізори, автомобілі, іграшки тощо робитимуть «дива».

Світ ніколи не змінюється раптово й одночасно. У короткостроковій перспективі життя залишиться приблизно тим самим, і люди у 2025 році переважно витрачатимуть свій час, як і у 2024-му. Ми й надалі будемо закохуватися, створювати родини, сваритися в інтернеті, ходити в походи тощо.

Водночас майбутнє наближатиметься настільки швидко, що його неможливо буде ігнорувати, і довгострокові зміни у нашому суспільстві та економіці будуть величезними.

Ми знайдемо нові заняття, нові способи бути корисними одне одному та нові форми конкуренції, але вони можуть суттєво відрізнятися від сьогоднішніх професій.

Агентність, воля й цілеспрямованість, імовірно, будуть надзвичайно цінними. Правильно визначити, що робити, і зрозуміти, як рухатися у швидкозмінному світі, буде надзвичайно важливо; стійкість і здатність до адаптації також стануть корисними навичками.

AGI стане найбільшим важелем впливу на людську волю за всю історію і дасть змогу кожній людині мати більший вплив, а не менший.

Вплив AGI не буде однорідним

Деякі галузі, можливо, зміняться мінімально, натомість науковий прогрес, імовірно, прискориться набагато більше, ніж сьогодні; цей аспект AGI може переважити всі інші.

З часом вартість багатьох товарів знизиться дуже відчутно (наразі чимало обмежується вартістю інтелекту та енергії), а ціна предметів розкоші й деяких обмежених ресурсів на кшталт землі може зрости ще різкіше.

ШІ проникатиме в усі куточки економіки й суспільства; ми очікуємо, що все має стати «розумним». Багато хто з нас вважає, що ми повинні надавати людям більше контролю над технологією, ніж це зазвичай робилося раніше, зокрема йдеться й про відкриття вихідного коду, — і водночас розуміти, що існує баланс між безпекою та персональною свободою, який вимагатиме компромісів.

Ми ніколи не хочемо діяти легковажно, і, ймовірно, доведеться ухвалювати серйозні рішення та запроваджувати обмеження, пов’язані з безпекою AGI, які будуть непопулярними. Однак у перспективі наближення до AGI ми все ж схиляємося до того, що необхідно розширювати можливості людей. Інший імовірний шлях полягає в тому, що ШІ може бути використаний авторитарними урядами для тотального нагляду та втрати автономії суспільством.

Забезпечення широкого розподілу переваг від AGI є вирішальним

Історія показує, що в довгостроковій перспективі середні показники нашого добробуту (здоров’я, економічний стан тощо) покращуються, та водночас зростання рівності не є гарантованим і може потребувати нових рішень.

Зокрема, розподіл сил між капіталом і працею може легко спотворитися й вимагати завчасного втручання. Ми відкриті до незвичайних, на перший погляд, ідей — наприклад, «бюджету на обчислювальні потужності», щоб кожна людина на Землі могла повною мірою користуватися ШІ. Водночас ми бачимо й безліч варіантів, коли достатньо просто невпинно знижувати вартість інтелекту, аби досягти бажаного ефекту.

Людина 2035 року повинна мати змогу залучити інтелектуальні потужності, еквівалентні населенню 2025-го; кожен має отримати доступ до необмеженого «геніального потенціалу», щоб спрямовувати його, куди тільки здатен уявити. Сьогодні чимало талантів залишаються нерозкритими через брак ресурсів; якщо це зміниться, світ отримає приголомшливий творчий внесок, який принесе величезну користь нам усім.