Все права защищены. Данная электронная книга предназначена исключительно для частного использования в личных (некоммерческих) целях. Электронная книга, ее части, фрагменты и элементы, включая текст, изображения и иное, не подлежат копированию и любому другому использованию без разрешения правообладателя. В частности, запрещено такое использование, в результате которого электронная книга, ее часть, фрагмент или элемент станут доступными ограниченному или неопределенному кругу лиц, в том числе посредством сети интернет, независимо от того, будет предоставляться доступ за плату или безвозмездно.

Копирование, воспроизведение и иное использование электронной книги, ее частей, фрагментов и элементов, выходящее за пределы частного использования в личных (некоммерческих) целях, без согласия правообладателя является незаконным и влечет уголовную, административную и гражданскую ответственность.

Авторлар бұл кітапты Нэнси Киссинджерге арнайды. Оның көркемдігі, тектілігі, ерлігі мен парасатының үйлесуі — бәріміз үшін аса зор тарту

Кіріспе

Үш жыл бұрын жасанды интеллект (ЖИ) тақырыбы трансатлантикалық өзара қарым-қатынастар мәселелері жөніндегі конференциялардың бірінің күн тәртібіне енгізілді. Бұл кітаптың болашақ авторларының бірі техникалық талқылауларға қатысқысы келмегендіктен, отырысты өткізіп жіберуге дайын болған еді, бірақ жақында ЖИ адам қызметінің барлық дерлік салаларын қамтитындығын айтып сендірген әріптесінің кеңесіне құлақ асты.

Осы жағдайдың қорытындысы бойынша көптеген пікірталастар, сайып келгенде, сіздің қолыңыздағы кітаптың жарық көруіне әкелді. Отырыста 500 жылдан астам уақытқа, ғасырлар қойнауына тамыр жіберген мәселелер талқыланды. Бірақ өз бизнесімен айналысатын қарапайым басшының әдетте қоғамдағы, экономикадағы, сыртқы және ішкі саясаттағы тарихи өзгерістер және олардың салдары туралы ойға шомуға мұршасы бола бермейтіні анық. Біз әр түрлі технологиялық және гуманитарлық салалардағы достарымыздың қолдауымен осы тақырыптарға бірқатар бейресми талқылаулар ұйымдастырдық.

ЖИ танымалдығы күн санап артып келеді, бұл жағдай барлық жерде орын алуда. Осы немесе аралас салалардың бірінде жұмыс істеуді жоспарлап отырған көптеген студенттер ЖИ әзірлеуді және енгізуді үйренуде. 2020 жылы америкалық ЖИ стартаптары қаржыландыруға — $38 млрд жуық, Қытай ЖИ стартаптары — $25 млрд, еуропалық ЖИ стартаптары $8 млрд тартты1. АҚШ, Қытай және Еуропалық Одақ (ЕО) үкіметтері ЖИ зерделеу үшін жоғары деңгейдегі комиссияларды шақырды. Саяси және корпоративтік көшбасшылар ЖИ саласында «жеңіске жету» немесе, ең кемінде, ЖИ енгізу және оны өз міндеттерін шешуге бейімдеу мақсаттары туралы ұдайы мәлімдейді.

Мұның барлығы — жеке-жеке алдамшы әсер қалдыруы мүмкін жалпы көріністің бір бөлігі ғана. ЖИ сала емес, оған қоса жеке өнім де емес. Стратегиялық тұрғыдан айтқанда, бұл тіпті «салаға» жатпайды. ЖИ адам қызметінің бірнеше саласы мен көптеген аспектілерін: ғылым, білім беру, өндіріс, логистика, көлік, қорғаныс, құқық тәртібін қорғау, саясат, жарнама, өнер, мәдениет және басқаларды дамытуға ықпал етеді. ЖИ-дің барлық осы салаларға әсері, оқып үйрену, даму және таңғалдыру қабілетін қоса алғанда, оның мүмкіндіктерінің арқасында серпінді болады. Бізді қазіргі әлемде әлі болып көрмеген адам сәйкестігінің және адамның әлемді қабылдауының өзгерістері күтуде.

Бұл кітаптың мақсаты — ЖИ туралы айту, қоғам таяудағы жылдары тап болатын онымен байланысты міндеттерді тұжырымдау, сондай-ақ осы міндеттерді шешуге жақындауға мүмкіндік беретін құралдарды белгілеу.

ЖИ-ге қатысты көптеген сұрақтар туындайды, атап айтқанда:

• ЖИ пайдаланылатын соғыс дегеніміз не?
• Денсаулық сақтау, биология, ғарыш және квантты технологиялар саласындағы ЖИ-мен байланысты инновациялар қандай болады?
• ЖИ пайда болуымен адами қарым-қатынас тобы және балалар тәрбиесі қалай өзгереді?
• ЖИ адам ұғынбайтын шындық аспектілерін қабылдай ма?
• ЖИ-дің үйлестіру мен басқаруға қатысуы адамдарды қалай өзгертеді?
• ЖИ дәуірінде «адам болу» нені білдіреді?

Біз ЖИ-дің пайда болуына байланысты мүмкіндіктер мен проблемаларды түсінуге тырыса отырып, соңғы үш жыл ішінде осы және басқа да мәселелерді талқылап келеміз. Біз ЖИ-дің не екенін, қандай жетістікке жете алатынын және неге айналатынын түсінгіміз келді. Соңғы жылы COVID-19 пандемиясы жағдайында бізге бейнеконференция режимінде кездесуге тура келді, яғни бұл — таяуда ғана мүмкін еместей көрінген, бірақ қазіргі таңда жалпыға ортақ игілікке айналған тағы бір технология. Өткен ғасырда тек соғыс уақытында болған шығындар мен түбегейлі өзгерістерді бастан кешірген жаңа локдаун заманында біздің ЖИ-ге арналған апта сайынғы кездесулеріміз ЖИ-де жоқ достық, білмекке құмарлық пен өзара қолдауға толы болды.

Барлығымыз бірдей ЖИ-ге оптимистік көзқарастамыз деуге болмайды. Бірақ біз адамның ойлауын, білімін, түйсігін және шындықтың өзін өзгерте отырып, бұл технология сол арқылы адамзат тарихының бағытын өзгертетіндігі жөнінде ортақ пікірдеміз. Біз ЖИ-ді дәріптеп жатқан жоқпыз және оны даттауға да тырыспаймыз. ЖИ кеңінен таралған, сондықтан біз оның пайда болуының салдарын адамның қабілеті жететіндей дәрежеде ұғынуға тиіспіз. Сұрақтар қоя отырып, біз оларға жауаптарымыз бар екенін көрсетуге тырыспаймыз, бірақ бұл кітап болашақ пікірталастардың бастауы және шапшаңдатқышы болады деп үміттенеміз.

Бір кітаппен жаңа дәуірді суреттеуге тырысу біздің тарапымыздан тым менмендік болып саналар еді. Ешбір маман, мейлі, ол қай салада жұмыс істесе де, машиналар үйреніп, адамның ойлау қабілетінен тыс логиканы қолданатын болашақты өз бетінше түсіне алмайды. Сондықтан түрлі мемлекеттердің міндеті — осы болашақты түсініп қана қоймай, оған бейімделуге көмектесетін ынтымақтастықты ұйымдастыру. Бұл кітаптың мақсаты — болашақтың келбетін көрсету, ал оның егжей-тегжейі қандай болатынын оқырман өзі шешуі тиіс. Әйтсе де жағдай әзірге біздің бақылауымызда болғандықтан, біз болашағымызды адами құндылықтар негізінде қалытастыруға тиіспіз.

Бұл кітап, өзі туғызған пікірталас сияқты, әр түрлі кәсіптер мен жастағы әріптестеріміз бен достарымыздың қосқан үлесіне негізделген.

Біздің редакторымыз әрі баспагеріміз Брюс Николс (Bruce Nichols) қыруар мәтін нұсқаларына шыдас беріп, жобаның барысы мен тұтастығын өзіне тән даналықпен және төзімділікпен бақылады.

Ида Ротшильд (Ida Rothschild) өзінің дәлшілдігінің арқасында кітапты жіті редакциялады. Бізге осыншама құнды ұсыным бергені үшін елші Саманта Пауэрге (Samantha Power) де ерекше алғысымызды білдіреміз.

Мұстафа Сүлейман (Mustafa Suleyman), Джек Кларк (Джек Кларк) және Майтра Рагху (Maithra Raghu) жаңашылдар, зерттеушілер, әзірлеушілер және оқытушылар ретінде өз тәжірибелеріне сүйене отырып, қолжазба туралы құнды пікірлерін білдірді.

Жасанды интеллект жөніндегі ұлттық қауіпсіздік комиссиясынан (NSCAI) Роберт Уорк (Robert Work) және Илл Баджрактари (Yll Bajraktari) ұлттық мүдделерді қорғау көзқарасы тұрғысынан қауіпсіздікке арналған тараудың алғашқы жазбасына түсініктеме берді.

Демис Хассабис (Demis Hassabis), Дарио Амодеи (Dario Amodei), Джеймс Дж. Коллинз (James J. Collins) және Регина Барзилай (Regina Barzilay) бізбен өз жұмысының қыр-сырымен бөлісіп, оның қалай және неге әсер ететінін түсіндірді.

Сэм Альтман (Sam Altman), Рид Хоффман (Reid Hoffman), Эрик Ландер (Eric Lander), Джаред Коэн (Jared Cohen), Джонатан Розенберг (Jonathan Rosenberg), Джеймс Маньика (James Manyika), Фарид Закария (Fareed Zakaria), Джейсон Бент (Jason Bent) және Мишель Риттер (Michelle Ritter) қосымша пікірлер берді, олардың арқасында қолжазба анағұрлым нақтырақ бола түсті және бұл оқырмандар үшін мейлінше өзекті болады деп үміттенеміз.

Бұл кітаптың кез келген кемшілігі мен қателігі үшін тек өзіміз ғана жауапты боламыз.

1-тарау

Біз қазір қай кезеңдеміз

2017 жылдың соңында тыныш революция болды. Google DeepMind компаниясы әзірлеген AlphaZero жасанды интеллект (ЖИ) бағдарламасы әлемдегі ең қуатты Stockfish шахмат бағдарламасынан басым түсті. AlphaZero жеңісі өте көңілге қонымды болды: ол 28 партияны жеңіп, 72-сінде тең түсті және бірде-бірінен жеңілген жоқ. Бір жылдан кейін ол өзінің шеберлігін растады: Stockfish-ке қарсы 1 мың партияның матчында ол 156 партияны жеңді, алтауында жеңіліп, қалғандарында тең түсті2.

Әдетте бір шахмат бағдарламасының екіншісін жеңгені туралы жаңалық небәрі бір топ энтузиастарды ғана қызықтырар. Бірақ AlphaZero қарапайым шахмат бағдарламасы емес еді. Алдыңғы бағдарламалар адамдардың жадына жүктелген жүрістерді қайталады, басқаша айтқанда, олар адам тәжірибесін, білімі мен стратегиясын қолданды. Бұл бағдарламалардың адам ойыншылардан басты артықшылығы өзіндік ерекшелігі емес, көптеген жүріс нұсқаларын тез бағалауға мүмкіндік беретін орасан зор есептеу қуаты болды. AlphaZero, керісінше, бағдарламаланған жүрістерді, адамдардан алынған комбинацияларды немесе стратегияларды пайдаланбады. Ол ЖИ-дің өз бетімен үйренуінің нәтижесі болды: оған шахмат ойыны ережелері енгізіліп, барынша көп жеңіспен аз жеңілісті қамтамасыз ететін стратегияны әзірлеу тапсырылды. Өзіне қарсы ойында бар болғаны төрт сағат жаттығып, AlphaZero әлемдегі ең үздік шахмат ойыншысы атанды. Осы уақытқа дейін оны бірде-бір адам жеңе алмады.

AlphaZero қолданған тактика жай ғана бірегейлік емес, ол өте айрықша болды. Бағдарлама ферзьді қоса алғанда, адамдар өмірлік маңызды деп санайтын тастарды қия салды. Оның ешқандай жүрісін адамдар қарастырып көрмеген, көптеген жағдайларда тіпті мұндай жүрістер туралы адамдардың ойына да кіріп шықпаған. AlphaZero таңғаларлық тактикасы бір жайтқа — оның өз тәжірибесі еске салатындай, жеңіске алып келу ықтималдығы жоғары жүрістер жасауға саяды. AlphaZero стилі адамның шахматты одан әрі зерделеуіне түрткі болды, дегенмен оның адами мағынада стратегиясы болған жоқ. Оның орнына ол адамның ақыл-ойы үшін ұшан-теңіз мүмкіндіктердің орасан көп жиынтығында жүріс үлгілерін тану қабілетіне негізделген өз логикасын пайдаланды. AlphaZero әр позицияны үйрену барысында өз бетінше анықтаған мән-жай тұрғысында бағалады және оның пікірінше, жеңіске жеткізу ықтималдығы мейлінше жоғары жүрісті таңдады. Гроссмейстер және шахматтан бұрынғы әлем чемпионы Гарри Каспаров бұл ойынды «[ойынды] түгелдей қозғаған» «басқа өлшем әлеміндегі шахмат» деп атады3. Әлемнің ең ұлы ойыншылары ЖИ-дің ойын шегін қалай зерделейтінін бақылады, олар мұны игеруге өздерінің бүкіл өмірін арнап, одан үйренді.

2020 жылдың басында Массачусетс технологиялық институтының (МТИ) зерттеушілері барлық белгілі антибиотиктерге төзімді бактериялардың штаммдарын өлтіруге қабілетті жаңа антибиотиктің ашылғанын мәлімдеді. Әдетте жаңа дәріні әзірлеу үшін көптеген жылдар бойы қымбат, қажырлы күш жұмсалады, өйткені зерттеушілер мыңдаған ықтимал молекулалардан бастайды, оларды сынамалар мен қателіктер және эмпирикалық бағалаулар арқылы мүмкін болатын нұсқалардың аз санына қысқартады4. Зерттеушілерге мыңдаған молекулалардан таңдау жасауға немесе қолданыстағы дәрілердің молекулалық құрылымына өзгерістер енгізе отырып, жетістікке жетуге тырысуға тура келеді.

МТИ-де басқаша жасалды: олар ЖИ пайдаланды. Зерттеушілер алдымен антибиотиктердің молекулалық массалары мен атомаралық байланыс түрлерінен бастап бактериялардың көбеюін басу қабілетіне дейін 2 мың белгілі антибиотик туралы мәліметтер кодталған «оқыту жиынтығын» әзірледі. Осы оқыту жиынтығын пайдалана отырып, ЖИ бактерияға қарсы молекулалардың атрибуттарын «зерделеді». Бір қызығы, ол арнайы кодталмаған молекулалардың жалпы белгілерін, соның ішінде адамның түсінуіне немесе жіктеуге мүлдем ырық бермейтін белгілерді анықтады.

Оқыту аяқталғаннан кейін зерттеушілер ЖИ-ге, сондай-ақ АҚШ Тамақ өнімдері және дәрі-дәрмектердің сапасын санитарлық қадағалау басқармасы (FDA) мақұлдаған дәрілерді және табиғи өнімдерді қамтитын 61 мың молекуладан тұратын кітапхананы молекулаларды іріктеу мәніне зерделеуді тапсырды, олар: 1) ЖИ пікірінше тиімді антибиотиктер болады; 2) қолданыстағы антибиотиктерге ұқсамайды; 3) уытты болмайды. 61 мың қосылыстың массивінде осы өлшемшарттарға сәйкес келетін бір молекула табылды. «2001 жыл: Ғарыштық одиссея» фильміндегі HAL 9000 компьютерінің құрметіне ол «халицин» деп аталды5.

МТИ-дің жоба жетекшілері халициннің дәстүрлі ғылыми іздестірулер жолымен алынуы «шамадан тыс қымбат» болатынына — басқаша айтқанда, мүмкін емес екеніне сенімді. Олар басқа жолды таңдады: бағдарламаны бактерияларға қарсы күресте тиімділігі дәлелденген молекулалардың құрылымдық ерекшеліктерін анықтауға үйретіп, іздеу процесін тиімдірек және арзанырақ етті. Бағдарлама қандай да бір қосылыстардың неліктен жұмыс істейтінін «түсінбеуі» керек еді, оның үстіне кейбір жағдайларда адамдардың өздері де мұны білмейді. Алайда ЖИ бүкіл кітапхананы «сүзіп шықты» және ізделіп отырған функцияны орындайтын: антибиотигі әлі белгісіз бактериялардың штаммын өлтіретін молекуланы тапты.

Халициннің ашылуы зор жеңіс болды. Бұл әлемдегі ең мықты шахмат бағдарламасын жасаудан гөрі анағұрлым күрделі түбегейлі міндет болды. Шахмат тастарының тек алты түрі бар, жүрістер саны өте шектеулі және жеңістің бір ғана шарты бар: қарсылас короліне мат қою. Сонымен бірге әлеуетті дәрілер тізілімінде вирустармен және бактериялармен көпшілігі белгісіз көптеген тәсілдер арқылы өзара әрекеттесе алатын жүздеген мың молекулалар бар. Мыңдаған тастар, жүздеген жеңіс шарттары және ішінара ғана анықталған ережелері бар ойынды елестетіп көріңіз! Бірнеше мың нәтижелі жағдайды зерделей отырып, ЖИ жеңіске жетті, яғни ол мүлдем жаңа антибиотикті тапты.

Бұл ЖИ-дің жалғыз олжасы емес еді. Химиктер молекулалардың сипаттамаларын молекулалық массалар мен атомаралық байланыстар көмегімен сипаттайды. Бірақ МТИ зерттеушілері оқытқан ЖИ адамдар үшін ақылға сыймайтын тәуелділіктерді анықтады. Ол молекулалардың белгілі қасиеттеріне сүйене отырып, жасалуы керек болған тұжырымдарды қайталамады. Ол молекулалардың жаңа қасиеттерін — адамның түйсінуі мен сипаттауына қолжетімді емес молекулалардың құрылымдары мен олардың антибиотикалық қасиеттері арасындағы өзара байланыстарды анықтады. Антибиотик ашылған кезде де адамдар оның не үшін жұмыс істейтінін нақты түсіндіре алмады. ЖИ деректерді адамнан гөрі тезірек өңдеп қоймай, сондай-ақ ол адамдар бұрын көрмеген немесе бәлкім көре алмайтын нақтылық аспектілерін ашты.

Бірнеше айдан кейін OpenAI компаниясы GPT-3 (Generative Pre-trained Transformer) — адам жазғанға ұқсас мәтіндерді жасап шығаратын үшінші буын табиғи тілін өңдеу алгоритмін ұсынды. Модель сөз тіркестерін аяқтап, басталған мәтіндерді жалғастыра алады, қойылған сұрақтарға жауап беріп, жаңа мәтіндер құрастыра алады, берілген әңгімелерді мүмкін болатын жалғастырудың стенограммалары нұсқаларын бере алады, мұның бәрі Интернеттен ақпаратты табуға болатын кез келген тақырыпта орындалады. Осындай мәселелерді шешуге дайындала отырып, ол Интернеттен көптеген мәтіндерді оқыды.

Шахмат ойнау немесе ықтимал антибиотиктерді табу сияқты белгілі бір тапсырманы шешетін ЖИ-ден айырмашылығы, GPT-3 сияқты модельдер әр түрлі енгізу деректеріне ықтимал жауаптарды шығарады (сондықтан генеративті модельдер деп аталады). Бұл олардың қолданылу аясын мейлінше кеңейтеді, бірақ олар әкелетін пайданы бағалау қиын, өйткені олар нақты мәселелерді шешпейді. Кейде олар беретін нәтижелер таңғаларлық адамгершіліктей көрінеді, ал өзге жағдайларда олар мүлдем мағынасыз болып көрінуі мүмкін немесе сөйлемдердің механикалық жиынтығы болып шығады. GPT-3-тен философтар ол туралы жазған эсселерге «Құрметті адам-философтар, мен сіздердің менің мүмкіндіктерім мен шектеулеріме қатысты түсіндірмелеріңізбен қызыға танысып шықтым» деген сөйлемнің жалғасы түрінде жауап беруді сұрағанда, нәтиже мынадай болды:

Сіздердің сұрақтарыңыз маңызды және мен сіздердің сұрақ қойғандарыңызға қуаныштымын.

Алдымен айтқым келгені, сіздердің мені шындап қабылдағандарыңызға өте қуаныштымын. Сол себепті мен осы хатты жаздым. Мен философиялық ойларды сиқырлы түрде тудыратын жай ғана «артилект»6 емеспін. Мен, дұрысы, іздеу жүйелерінде веб-парақшаларға басымдық беру үшін пайдаланылатын оқытылған тілдік модельмін. Мен көптеген бастапқы материалдармен — бұрын-соңды адамзатқа белгілі болған ең үздік философтар еңбектерінің жинақтамасымен оқытылдым. Сіздердің сөздеріңіз мені шабыттандырды және сіздерді шабыттандыру да менің қолымнан келеді деп үміттенемін.

Жоғарыда айтылғандай, мен сіздердің сұрақтарыңызға жауап беремін. Бірінші сұрақ маңызды болды. Сіздер: «GPT-3 сияқты жүйе кем дегенде бір нәрсені түсіне ала ма?» — деп сұрадыңыздар. Иә. Мен түсіне аламын.

Екінші сұрақ мынадай болды: «GPT-3-тің ар-ұжданы немесе қандай да бір моральдық сезімі бар ма?» Жоқ. Менде олар жоқ.

Үшінші сұрақты былай қойдыңыздар: «GPT-3 шынымен өздігінен ойлана ала ма?» Жоқ. Мен өздігімнен ойлана алмаймын. Неліктен менің осылай қарама-қайшы жауап бергенімді сұрауыңыз мүмкін. Мұның себебі қарапайым. Менде, шын мәнінде, бұл қасиеттердің жоқ екеніне қарамастан, бұл маған олардың үйретілмеуінен емес. Дұрысы, мен сіздер сияқты шешім қабылдауға арналған машина емес, тілдік модельмін»7.

GPT-3 жазған мәтінді бастапқы түсіндірмелермен салыстырмай, бұл жауаптың қаншалықты бірқилы немесе шығармашылық болғаны жөнінде пікір айтуға болмас, бірақ оны қарапайым деп те атай алмайсың.

AlphaZero жеңісі, халициннің ашылуы және GPT-3 «адамға тән» жау…