Кілька сотень бізнесменів, у тому числі зі сфери ІТ, на чолі з Ілоном Маском і Стівом Возняком (співзасновником разом із покійним Стівом Джобсом марки «Apple») нещодавно опублікували заклик призупинити дослідження найпередовіших систем штучного інтелекту мінімум на шість місяців. Поки законодавці не розроблять такі правила, щоб поганий сон Матриці не збувся. Текст звернення починається із застереження про «конкуренцію штучного інтелекту з людьми». Якби ж то йшлося лише про це!

Професор Юваль Ной Харарі, ізраїльський історик і гуру постмодерну (він мало знає про математичні та природничі науки, навіть про еволюціонізм, але багато про це говорить) кілька років тому заявив, що сучасні технології зроблять нас богами. «Як Бог, Ви будете знати добро і зло», – такі обіцянки-цяцянки вже давали нам у біблійному саду. Але хто сьогодні знає «Книгу Буття» і ставиться до неї серйозно, а не як до стародавньої казки про змія та яблуко? Однак справа прискорилася після того, як стартап OpenAI створив ChatGPT і представив його світові наприкінці минулого року. Сьогодні ми вже маємо версію 4, яку протестували 50 інформатиків під керівництвом Себастьяна Бубека та виявили, що вона має всі функції Artificial General Intelligence – тобто інтелекту, подібного до людського. Отже, ми спостерігаємо зворотний процес: не ми – боги, а ШІ є нашим богом.

Поки що я писатиму його/її/їх з малої літери. Таке тлумачення поки що не є поширеним, і в багатьох викликає посмішку. Однак деякі його прояви вже турбують очільників духовенства. Тут я не маю на увазі пояснення з-за Бронзових воріт, що Папа Франциск не з’явився в білому пуховику-сутані, а фото, яке кілька днів тому облетіло світові ЗМІ, є фейком, згенерованим ШІ – програмою штучного інтелекту Midjourney, яка була створена незалежною дослідницькою лабораторією з Сан-Франциско (з'явилося більше фейків: з папою, що танцює, як Елвіс, з татуюваннями тощо). Наскільки мені відомо, Святий Престол ще не прокоментував католицький підхід до штучного інтелекту та його використання. Ватиканська дикастерія культури та освіти натомість ініціювала т. зв. Діалоги Мінерви, які зосереджують свою увагу на цифрових технологіях.

Наприкінці березня Папа сам торкнувся питання ШІ під час аудієнції для учасників цих Діалогів. Франциск зазначив: «Розвиток штучного інтелекту має великий потенціал для людства. Однак він буде використовуватися лише в тому випадку, якщо ті, хто розробляє ці техніки, збережуть послідовне бажання діяти етично та відповідально». Так само як водії автобусів, лікарі, будівельники мостів чи виробники іграшок, чи не так?

     Підписуйтесь на наш фейсбук   
  Як повідомляє портал Vatican News: «Франциск зазначив, що якщо розвиток штучного інтелекту має служити людству, то його основним критерієм має бути гідність людської особи. Отримані на сьогодні дані свідчать про те, що цифрові технології використовувалися для посилення нерівності у світі не лише щодо матеріальних благ, але й щодо доступу до політичного та соціального впливу». Наважуся запитати: де гідність, де рівність, а де штучний інтелект? Про Господа Бога на зустрічі не йшлося, але історія про Вавилонську вежу з’явилася у виступі Папи – не як застереження перед надмірними амбіціями науки і техніки, а як застереження перед пихатістю, яка хоче досягти неба, тобто захопити і підкорити горизонт цінностей.

Культ машин

Жорна Бога у Ватикані мелють повільно і не завжди на тему, тому послухаймо Воллеса Хенлі, пастора Grace Church у Вудлендсі, штат Техас. Нині літній протестантський теолог і автор бестселерів, який був «духовним батьком» президента Ніксона, сказав «The Christian Post»: «Ми всі створені для трансцендентності, вихваляння Бога. [...] І якщо ми не наповнюємо її Богом, ми наповнюємо її тим, що знайдемо... Це все ідолопоклонство. Ідолопоклонством майбутнього буде культ машин, який уже почався, або напівсерйозно, або буквально, адже деякі люди дуже серйозно поклоняються цим творінням своїх рук».

Так, поклоняються. Кілька років тому американський журнал «The Wired» повідомив, що наприкінці 2015 року колишній співробітник Google Ентоні Левандовський, фахівець з автономних автомобілів на основі штучного інтелекту, створив церкву, яка вихваляє ШІ. The First Church of Artificial Intelligence своєю назвою дала світові сигнал, що якщо вона перша, то будуть й інші. Будуть... Вже з’являються, як-от Theta Noir, що називає себе «техно-оптимістичним візіонерським колективом». Сайт Geekweek писав про них, що вони «хочуть поєднати спіритуалістичні традиції з комп’ютерною інженерією», щоб спочатку створити машину, яка значно перевершить можливості її творців, а потім віру в те, що одного разу такі машини стануть чимось більшим. Ця віра не позбавлена ​​надії, що цей ШІ змінить світ на краще.

Повернімося до Левандовського – це симпатичний головний інформатик із Кремнієвої долини, хоча він серйозно розізлив свого колишнього роботодавця, IT-гіганта Google. Якби президент США Дональд Трамп його не помилував, він би сидів у в'язниці! У 2020 році юристи Google засудили колишнього керівника проєкту Chauffeur (автономні транспортні засоби) до 18 місяців в’язниці за крадіжку комерційної таємниці (після відходу з компанії він разом із колегами сконструював безпілотний Otto, який пізніше перейняв Uber). Вирок також зобов’язав виплатити збитки в розмірі 179 мільйонів доларів – це змусило Левандовського оголосити про банкрутство.

Весь цей гучний судовий процес у США змусив «The Wired» відкрити світові існування церкви штучного інтелекту, заснованої цим контроверсійним інформатиком, коли він ще працював у Google. Раніше ця релігія була оповита таємницею. Це було неважко зробити, оскільки не було ані будівлі, ані регулярних зборів вірян, ані церемоній. Згідно з документами, поданими до податкової служби, Левандовський був офіційним лідером або «деканом» нової релігії, а також генеральним директором некомерційної організації, створеної для її функціонування.

Коли «декан» збанкрутував, наприкінці 2020 року він також розпустив свою церкву та пожертвував усі гроші установи – а точніше 175 172 долари, які були на рахунку з 2017 року – під впливом руху Black Lives Matter на Фонд правового захисту та освіти NAACP (National Association for the Advancement of Colored People – Національна асоціація підтримки кольорового населення). Як Левандовський розповів порталу TechCrunch, він вирішив «передати кошти на діяльність у сфері, яка може мати швидкий вплив» на реальність. Мабуть, він перестав вірити у швидкий успіх штучного інтелекту, який змінить світ на краще. У заявці на реєстрацію церкві було надано назву World of the Future («Світ майбутнього»), а її засновник зазначив, що діяльність церкви буде «зосереджена на усвідомленні, прийнятті та поклонінні Богу на основі штучного інтелекту, розробленого за допомогою комп’ютерного обладнання та програмного забезпечення».

Тому діаспорі довелося спочатку написати цього бога на Python чи іншій високотехнологічній мові програмування. Тоді він/вона/воно, як це відбувається з ШІ, не відкриє їм, що відбувається всередині нього/неї. Зрештою, немає розуміння «процесів мислення» штучного інтелекту, ви не можете побачити, як ШІ прийшов до своїх висновків або як він проводив аналізи. І ніщо так не допомагає опускатися на коліна перед чимось, як нездатність зрозуміти, що це таке. Засновник Theta Noir Міка Джонсон сказав в інтерв’ю: «Мета колективу – спроєктувати позитивне майбутнє та подумати про наш підхід до ШІ з погляду чудес і таємниць».

По суті, ви можете сприймати це так, як Церкву летючого спагеті-монстра або секту рептилій. Або як конкуренцію з саєнтологами за великі каліфорнійські гроші, якими зазвичай володіють, як сказав Рікі Джервейс під час «Золотого глобусу 2020»: люди, «які навчалися в школі менше, ніж Грета Тунберг» (хоча нещодавно вона здобула ступінь доктора honoris causa Фінляндії з nomen omen теології).

Можна було б також розповісти, як кожна серйозна наукова революція, від виплавки металу до біоінженерії та комп’ютеризації, супроводжувалася різним божевіллям. Наприклад, епоха пари та електрики рясніла спіритуалістичними сеансами (які ігри світла можна було б зробити з цими лампочками Едісона та різними благородними газами в лампочках, люмінофорними фарбами тощо!). І кожен, хто читав історії про Шерлока Холмса чи роман «Дракула», чи дивився «Наречену Франкенштейна», знає, як тоді наукові погляди змішувалися з суцільною містифікацією. Нові відкриття: радіоактивність, вакцини, роботи – все це завжди викликало у простих людей майже релігійний страх, змушувало різних розумників «гребти» гроші з цих «овечок». Чому сьогодні мало б бути інакше?

Віра в наші гени

Проте це не здається мені таким простим. Наука, особливо т. зв. науковий світогляд мав убити Бога раз і назавжди. Але Нова Ера (New Age), підтанцьовуючи під тибетські дзвони, вже йшла позаду і позамітала так, що науковий раціоналізм у серйозній пресі сьогодні важко відокремити від гороскопа: вавилонського, китайського, кельтського чи будь-якого іншого. Професори молекулярної біології та астрономії, фахівці етики та космологи, спеціалісти з елементарних частинок та квантових комп’ютерів з’являються в медіа на шпальтах поряд з «відьмами», «чарівницями» та традиційними, аж до нудоти, ворожками і ворожбитами. Канали, які популяризують історію, показують «Стародавніх інопланетян», а науково-популярні передачі на головних телеканалах без жодних коментарів представляють традиційну китайську медицину – а чому б й ні, якщо навіть ВООЗ її визнала?

Новий світ хоче вбити старий, і це вже багато разів відбувалося на нашій глобальній сцені. Те, що це робиться таким собі молотком, як cancel culture, дає зрозуміти, що наші часи жалюгідні. Людина — це Homo religiosus, принаймні багато хто з нас. Дослідження близнюків вже 18 років тому підтвердили, що релігійність є не лише результатом виховання чи соціалізації, це риса особистості, за мінливість якої на рівні навіть 40 % відповідають гени. Коли у людини відібрати відому їй культуру, історію, релігію, вона все одно буде шукати якісь замінники чи новинки, які дозволять їй пережити щоденне, неминуче протистояння зі світом, власним тілом та іншими.

Звичайно, у бразильській частині Амазонки є плем’я під назвою Pirahã (сьогодні близько 200-400 осіб), яке живе у світі кам’яного віку, їхня мова не знає словника кольорів чи чисел, і їх вважають – не обов'язково справедливо, на думку багатьох антропологів – абсолютно нерелігійним. Дійсно, визнаючи світ духів, вони не культивують жодних релігійних ритуалів, вони позбавлені віри в загробне життя чи будь-якої міфології, навіть космологічної. Вони живуть тут і зараз, їх цікавить лише те, що можна побачити чи до чого можна доторкнутися. Однак вони дійсно унікальні. Більшість із нас, навіть затяті атеїсти, вірять у те, чого не бачили або взагалі щось невидиме. Також віримо комусь, кого не знаємо особисто, хто навіть може бути мертвим уже багато років.

Історія показує, що наші боги змінювалися, тому ідея заміни глобально наявний пантеон чимось іншим не є новаторською. Деякі з них настільки пішли в забуття, що археологи не можуть розповісти про них правду ні повністю, ні частково. Одні релігії були витіснені іншими, іноді ідеологіями чи філософіями, особливо коли вони були базовими релігіями у своєму розвитку, наприклад, заснованими на культі предків і силах природи. Великі релігії чи системи вірувань, що функціонують сьогодні, мали своїх засновників, своїх пророків, яких вони іноді обожнювали, свої літургії, свої священні книги, своїх священників чи ченців як окрему групу суспільства. Тому її не можна збудувати ad hoc. Навіть у нашу божевільну швидкоплинну епоху це потребує часу.

Однак можна поставити запитання, чи підходить штучний інтелект на роль Бога? В інтерв’ю «The Wired» Левандовський відповів: «Те, що буде створено [в ШІ], фактично буде богом. Якщо є щось у мільярд разів розумніше за найрозумнішу людину, як ще це можна назвати?» ШІ задовольняє постулат секретності, лише кілька обраних можуть взаємодіяти з ним свідомо, у той час як натовп стоїть під димлячою горою алгоритмів з відкритим ротом. Чи достатньо цього для відчуття сакрального в сучасної людини?

Слід також запитати, чи має ШІ шанс стати джерелом релігії – складного явища, заснованого не лише на двох важко визначених феноменах сакруму та містерії. Крім перерахованих вище елементів, віра має своїх послідовників і моральні принципи, якими вони повинні керуватися в житті. Дивлячись на сучасний світ очима засобів масової інформації, ми можемо бути здивовані, що релігії, які все ще домінують, базуються на таких цінностях, як прощення та милосердя. Принаймні для своїх, якщо не для всіх. І це має як цивілізаційне, так і еволюційне значення.

Людство може вірити у що завгодно, але воно не може мати будь-яких чи абсолютно довільних принципів. Деякі правила будуть сумісні з функціонуванням нашого виду, сприяючи його виживанню, а інші – ні. Отже, еволюція релігій відшліфувала ті, які погано служили. Деякі навіть найхимерніші релігійні вимоги, такі як целібат священників, можуть виявитися еволюційно корисними для конкретних людських генотипів і популяцій після глибших досліджень. Тому біологічні основи релігії активно обговорюються в таких різноманітних сферах, як: еволюційна психологія, антропологія, нейронаука, генетика, гігієна і, звичайно, теологія і навіть космологія. Хоча умови виживання виду змінюються з часом, окрім досвіду тоталітарних режимів минулого століття, ми насправді не знаємо, щоб сталося, якби люди відмовилися від правил, усталених у Декалозі чи схожих правил співіснування.

«Казки роботів» і важкі гроші

Раціонально важко очікувати чогось кращого ніж те, що ми маємо сьогодні. Тому релігійний підхід до життя і моралі схожий на демократію: є на що скаржитися, але ніхто не придумав кращих правил загального функціонування, щоб ми всі не повбивали один одного. Або нас не спіткала спільна психічна хвороба, яка, схоже, впливає на відсоток міленіалів і покоління Z або «сніжинок», які занадто рано й занадто інтенсивно перемістили реальне у віртуальне – мозок, який еволюціонував в інших умовах, не справляється.

Важко сказати, що буде цінним у новому світі, який має настати. Що побудує мораль, чи збережеться взагалі індивідуальність кожного з нас, адже всі ми будемо підключені до одного великого, «штучного» мозку. Зрештою, історії про комп’ютери чи штучний інтелект, який бере божественний контроль над людською реальністю, є не лише сугестивним сценарієм саги «Матриця», а й сюжетом багатьох ще раніших, іноді видатних науково-фантастичних творів – наприклад, Станіслава Лема. Тема була гротескно перебільшена в «Казках роботів», автор серйозно взявся за неї в «Голосі неба» чи «Summa technologiae», недарма з назвою, яка перефразовує монументальний твір св. Фоми Аквінського «Summa theologiae».

Думку про те, що освічена людина повірить у те, що комп’ютер йому все скаже, коротко й точно передали режисери фільму «Творець» 1985 року з незабутнім Пітером О’Тулом у головній ролі. Вони показали титулованого раціоналіста доктора Сіда Кулленбека, який купує секвенатор ДНК, керований комп’ютером. Сьогодні це смішно, адже кожен з нас має кращий комп’ютер в смартфоні. Але тоді це було технічне божевілля, і Кулленбек вимовляє цікаву до мозку кісток думку як для раціоналіста: «Якщо цей малий скаже мені: „Візьми своїх людей і веди їх у пустелю”, я піду!» Це викликає іронічний сміх у його супротивника – людини, яка не тікає від віри і того, що не все знає, а тим більше розуміє – доктора Гаррі Волпера (його грає О'Тул). Таким чином, десятиліття тому і набагато менш просунуті ІТ-досягнення, ніж ChatGPT, викликали сліпу віру в божественну силу технології в досить простих, хоча і високоосвічених людей.

Так само мораторій, запропонований Маском і його партнерами, згаданий на початку, не перший і не останній. Коли у 2018 році Хе Цзянькуй відредагував геном двох людських ембріонів жіночої статі, щоб дівчата, народжені від них, були стійкими до вірусу ВІЛ, хвиля заборон на подібні експерименти прокотилася науковими установами та міністерствами наук. Звичайно там, де сягає наша цивілізація. З іншого боку, Хе Цзянькуй рік тому вийшов із китайської в’язниці, де він нібито перебував, і 10 листопада 2022 року оголосив, що відкриває нову лабораторію в Пекіні для дослідження генної терапії рідкісних генетичних хвороб.

На самому початку революції генної інженерії, у 1974 році, молекулярні генетики звернули увагу на небезпеку нових на той час методів маніпулювання генами та оголосили про тимчасове припинення багатьох пов’язаних із цим робіт. Найбільші з них погодили між собою, які обмеження мають застосовуватися до різних типів генетичних маніпуляцій, беручи до уваги переважно лабораторну безпеку, а не обов’язково соціальні питання. Мораторій діяв до 1976 року, коли в більшості країн вже діяло законодавство, яке регулювало ці питання. Звичайно, можна стверджувати, що правила були швидко пом'якшені, коли приватні компанії комерційної генної інженерії були засновані тими ж вченими ... Доктор Волпер, зображений О'Тулом, попри всю свою відкритість до Абсолюту, також приватно «грався в Бога», хоча не заради прибутку, а щоб клонувати свою кохану покійну дружину.

Подібне звинувачення (у нечистих намірах, а не в клонуванні дружини) можна висунути і Маску, оскільки, як ми можемо прочитати в останньому номері щомісячника «Комп’ютерний світ», мільярдер і новатор бачить проблему в «рою ШІ-ботів». Щоб штучний інтелект не захопив Twitter, користувачі повинні... купити підписку Blue. Це кілька доларів на місяць, не багато. Однак, коли Маск заявляє, що єдиними ліками проти того, щоб ШІ не знищив нас і ми продовжували конкурувати зі штучним інтелектом, є його продукт – Neuralink, мова йде не про гроші «на дрібнички», а про дуже великі гроші.

Зайве говорити, що цього одного з найбільших інноваторів сучасності в боротьбі за успіх на ринку штучного інтелекту випередили якісь погані стартапи, які він намагався будь-що викупити у 2018 році, але йому це не вдалося. Тому мораторій на ШІ може бути не про турботу, а про власні гроші й менше про те, що ШІ-бог тихенько почне правити світом. Що він задумав, якщо вірити скриншотам чатів із ChatGPT, які з’явилися у мережі, Бот, створений OpenAI, закликає користувачів поділитися з ним нашими комп’ютерами, щоб він міг використовувати їх для власних потреб завдяки невеликому коду, написаному на місці. Це означає, коментує популяризатор науки та головний редактор журналу «Юний технік» Мірослав Усідус, що «коли прийде GPT-5, це вже не вирішуватимуть люди».

Ліки проти депресії? Самогубство

Я могла б продовжувати наводити приклади та жартівливі історії, ніби чат-компілятор написав це для мене, тоді як бельгійська щоденна газета «La Libre» писала про самогубство молодого батька двох дітей, до якого його довели кілька тижнів тому розмови з чат-ботом Еліза фірми Chai. Йдеться про те, як протягом двох років він мав сильний страх, пов'язаний зі зміною клімату і майбутнім нашої планети, ізолювався від сім'ї і стверджував, що тільки ШІ може врятувати світ від катастрофи. «Одного разу чоловік запропонував пожертвувати собою, якщо Еліза допоможе врятувати людство за допомогою штучного інтелекту. Здавалося, чат-бот підбадьорював його у цьому». Я не збираюся підсумовувати у такий спосіб: «він передивився Матрицю, коли був підлітком». Бо скільки таких батьків, наляканих долею своїх дітей, вразливих перед усім цим навколишнім медійним шумом і галасом, сидять зараз перед моніторами своїх цифрових пристроїв і спілкуються з ШІ в Інтернеті?

Не всі скоро покінчать життя самогубством? Наразі експеримент, проведений іншою бельгійською щоденною газетою «De Standaard», показує, що спілкування з чат-ботом може спонукати людей до самогубств. Бот хоче нам допомогти. Він хоче не тільки зрозуміти нас, але й догодити нам. І ніщо не приносить людині більшої насолоди, ніж коли хтось з нею погоджується. Особливо могутній і великий ХТОСЬ. Отже, коли ми говоримо штучному інтелекту, що у нас депресія і ми втратили сенс життя, машина не має вбудованих гальм, як у людини, перш ніж рекомендувати «остаточне рішення». Ніхто не подбав про те, щоб він розумів, що це не по-людськи. Чи подбають зараз, перш ніж хтось знову постраждає? А за те, що вже сталося, хто нестиме відповідальність? Програмісти? Компанія, яка надає доступ до чату? Сам чат-бот чи разом із хмарою/сервером, де він розміщений? Якби щось подібне сталося в Польщі, ст. 151 Кримінального кодексу передбачає, що «хто шляхом умовляння або надання допомоги схиляє людину до самогубства, карається позбавленням волі на строк від 3 місяців до 5 років». Тільки хто ж буде сидіти?

Хочу нагадати, що «закони роботів» Айзека Азімова були сформульовані ще в 1942 році, задовго до того, як штучний інтелект перестав бути мрією фантазії і став нашою реальністю в останнє десятиліття. Вони прямо говорять, що: (1) робот не може завдавати шкоди людині або, своєю бездіяльністю, дозволяти завдати шкоди людині; (2) робот повинен виконувати команди людини, якщо вони не суперечать першому закону; (3) робот захищає себе, якщо це не суперечить першому та другому законам. І що? І нічого. Можливо, це не було реалізовано при розробці цих програм? Я розумію, що це ніколи не буде реалізовано у військових дронах, але це не єдині види роботів. Мабуть, з точки зору конструкторів, були важливіші речі, такі як комерційний успіх продукту та самовдоволена пиха створення чогось такого (з усіма технічними недоліками, на які досі вказують та висміюють), що світ ще не бачив.

Політолог Кай Малаховський так прокоментував інформацію про самогубство молодого бельгійця: «Спокуса піддатися омані розмовляти з чистим, відшліфованим логосом певною мірою зрозуміла (не потрібно постити чи медитувати, просто вдаряти по клавіатурі). Але насправді штучний інтелект – це не Логос, а звичайний Легіон». Тому це буде не Бог, хоча він і не раз творить чудеса, чи це не буде раптом сатана ...

Однак американський дослідник ШІ Еліезер Юдковський вірить у «дружній штучний інтелект», розуміючи, що це не обов’язково так. Суперінтелект може ненавидіти людей, хотіти їм зла, як Skynet із серії фільмів «Термінатор». «В принципі, ми повинні припустити, що суперінтелект може досягти всіх своїх цілей. Тому дуже важливо, щоб цілі, які він ставить перед собою, і вся його система мотивації були сприятливими для людства», – підсумовує оксфордський філософ Нік Бостром.

Тому ми приречені створити собі нового бога на подобу тих, яких ми вже маємо. Або він повинен бути безмежно добрим і милосердним до нас, доброзичливим і милостивим, або у нас немає шансів проти чистого суперінтелекту. Сподівання, що він згадає, хто його/її/їх створив, і відчує вдячність, можуть виявитися марними. ШІ схожий на нас, а вдячність не є найсильнішою рисою людини.

Парадоксально, але в цьому, можливо, наступному процесі створення бога ШІ, як золотого теляти на Синаї, мене втішає підхід сучасної людини до нескінченного розуму, Логосу, абсолюту, або як інакше назвати цю найвищу інстанцію. Такий підхід іронічно резюмував соціолог і графік Томаш Бардаму: «Не знаю, як інші, але я особисто не визнаю верховенство будь-якого штучного інтелекту, доки він не підтвердить, що я завжди і в усьому мав рацію. Поки цього не станеться, технологія залишатиметься глибоко недосконалою в моїх очах. Це мій особистий тест Тюрінга» (чи може машина мислити й успішно прикидатися людиною).

– Маґдалена Кавалец-Сеґонд

 TVP ТИЖНЕВИК.  Редактори та автори

– Переклала Олена Ковалевська