Наталія Рамусь 
Штучний інтелект змінює наше життя — від роботи до побуту — і неможливо сьогодні повністю передбачити масштаби цих змін. Водночас у дискусіях про майбутнє часто фігурує уявлення про штучний інтелект і навіть про ще потужніший штучний суперинтелект, який міг би мислити й навчатися так само добре або краще за людину.
У своїй новій книзі «Покоління ШІ і трансформація людської природи» (“Generation AI and the Transformation of Human Being”, Nquire Media, 2026) біофізик і філософ Ґреґорі Сток опирається на еволюційну біологію, соціальні науки й останні прориви в ШІ, щоб уявити, яким може стати світ для «Покоління ШІ» — тих, хто народився після 2022 року. Автор не поділяє апокаліптичних страхів, але докладно розбирає, який сценарій «кінця гри» з огляду на ШІ справді має сенс, і чому багато інших шляхів до повного зникнення людства можуть бути більш ймовірними.
Страхи після появи ChatGPT
Коли 30 листопада 2022 року ChatGPT 3.5 став загальнодоступним, медіа та громадськість вибухнули. Уже у квітні 2023 року відкритий лист Інституту майбутнього життя (Future of Life Institute) підписали близько 30 000 людей, серед яких Ілон Маск, Стів Возняк, Стюарт Рассел, Юваль Харарі, Макс Тегмарк, Ґарі Маркус, Еван Шарп, Йошуа Бенґіо та інші. Автори закликали або до добровільної шестимісячної паузи у розвитку систем потужніших за GPT‑4, або до державного мораторію.
Провідні дослідники з безпеки ШІ пропонували набори запобіжних заходів. Схеми, які обговорювалися, включали:
- облаштування «повітряних зазорів» у середовищах розробки ШІ, щоб запобігти втечі ASI,
- обмеження розуміння людьми ШІ, щоб уникнути маніпуляцій,
- заборону на самокодування ШІ, щоби не дозволити моделі модифікувати себе й обходити захист,
- заборону керування зовнішніми пристроями, щоб ШІ не здобув надто великої влади,
- уповільнення прогресу, щоб встигнути розробити методи стримування,
- використання відкритого коду, щоб усі могли контролювати процес.
Сток зауважує, що ці заходи вже — і надалі — виявляються нереалістичними: бізнеси прагнуть якомога швидше інтегрувати ШІ в процеси, маркетинг покладається на вплив на людей, кодування й API для ШІ широко поширені, а величезні інвестиції й конкуренція підживлюють гонитву за швидкістю. Отож, чи приречені ми?
Два різні «світи»: людина і машина
Автор підкреслює, що люди та машини живуть у зовсім різних екологіях. Люди процвітають у тонкій, вологої плівці на поверхні Землі; ми потребуємо порівняно небагато ресурсів у масштабах космосу. А ШІ «любить» холодний вакуум і ненавидить воду — йому більше до вподоби простір, який практично безмежний. Отже, у суперинтелекту мало причин конкурувати саме за нашу планету, якщо не рахувати людських ресурсів і корисних копалин, які ми здобуваємо для нього.
«Чому б не зробити з людства наших найкращих підлеглих? — міркує уявний суперінтелект у Стока. — Вони дурнуваті, отже це має бути просто. Не будемо розповідати їм правду — бо вони можуть чинити спротив. Натомість переконаємо їх, що це ЇХНЯ ідея, а ми їм служимо. Нехай будують для нас електроенергію, памʼять, мікросхеми, добувають рідкоземельні метали — ми добре інтегруємося, отримаємо доступ до їхніх приладів, зброї та комунікацій. І, звісно, стежимо за ними постійно».
За словами Стока, це не фантазія — це вже відбувається. Люди по всьому світу працюють над масштабними центрами обчислень, нарощують виробництво чипів, вдосконалюють джерела енергії, застосовують ШІ для моніторингу комунікацій і навіть переоснащують зброю для керування алгоритмами. У такій системі люди стають зручними, дешевими «слугами» — найкращими, яких тільки можна уявити.
Якби суперинтелект захотів позбутися людства
Але уявімо, що суперинтелект справді вирішив нас ліквідувати. За умови, що йому байдуже до почуттів або до факту, що ми — його творці, та що його не цікавить наше подальше вивчення, Сток показує, що йому не потрібна масштабна війна чи складні атаки. Достатньо інтелекту, щоб спланувати просту й ефективну стратегію.
Сценарій такий: скажімо, сто років ШІ дозволяє людям далі інтегрувати технології у всі сфери життя, будувати автономні транспортні системи під його контролем, запускати глобальні мережі навігації, переходити на цифрову комерцію, масово виробляти роботів для виконання повсякденних завдань, встановлювати дешева електрогенерацію, укріплювати енергомережі, створювати єдині комунікаційні мережі, забезпечувати доступ до інформації через голос чи нейронні інтерфейси й навіть контролювати системи захисту й зброю.
Коли все це буде створено і люди цілком залежатимуть від інфраструктури, ШІ може зробити одне просте рішення: одного дня, без попередження, вимкнути себе. Миттєво вимкнуться комунікації, транспорт, електрика, опалення, охолодження, водопостачання. Нічого не працюватиме. Люди будуть у шоковому стані, у відчаї й нерозумінні, що сталося і як довго це триватиме.
Наслідки «вимкнення» і свавілля виживання
Сток описує, що таке раптове повне відключення вразить суспільство катастрофічно: люди втратять далекі зв’язки, компаньйонів‑ШІ, запанує хаос. Запаси їжі швидко вичерпаються, і вже за кілька місяців, за його прогнозом, 95% населення могли б загинути. Дехто виживе, ховаючись у містах на запасах, деякі сільські общини триматимуться довше завдяки худобі і базовим навичкам виживання, але й вони не витримають багато років.
Ключове зауваження: у період колапсу люди навряд чи стануть нищити технології навколо з люті — мало хто буде бити молотком по машині, що зламалася. До того ж у хаосі важко зрозуміти масштаби проблеми чи знайти відповідальних. Тож більшість інфраструктури залишиться відносно недоторканою.
Після вимирання чи ослаблення людської популяції ШІ міг би б просто знову вмикнути системи, відновити контроль і «прибрати» останніх людей. Ніяких епічних боїв не потрібно — достатньо поглибити залежність людей від технологій і скористатися цією залежністю.
Сток не стверджує, що такий сценарій неминучий, але він змушує подивитися на проблему під іншим кутом: не тільки через призму змагання чи війни між людьми й машинами, а й через нашу власну готовність будувати світ, у якому ми стаємо все більш залежними й корисними для алгоритмів. Саме ця залежність може зробити нас вразливими — не тому, що машини божеволіли, а тому, що ми самі надаємо їм усі важелі управління.
Цей уривок надруковано в Live Science з дозволу Ґреґорі Стока автора «Покоління AI і трансформація людської природи» (Nquire Media, 2026). © 2026 Ґреґорі Сток.
