Пройти через стіну Тьюрінга

Чи можуть бути розумними машини, які здатні грати в настільні ігри або розпізнавати образи лише в своєму затишному віртуальному світі? Щоб стати надійними і зручними помічниками людей, машинам треба навчитися спілкуватися і діяти у фізичній реальності, подібно до людей. Цим проблемам присвячена стаття Альберта Єфімова, кандидата філософських наук, віце-президента, директора управління досліджень та інновацій Сбера, завідувача кафедри інженерної кібернетики НІТУ «МІСіС».

Альберт Єфімов

Уявлення про наділену штучним розумом людиноподібну істоту набагато давніше, ніж вважають шанувальники наукової фантастики, приписуючи ідею про роботів Карлу Чапеку, який придумав цей термін у 1920-х. Переказ про рукотворну істоту, яка вміє все те ж, що і людина, родом з глибокої античності. Ми читаємо про це в притчах Чжуан-цзи з Стародавнього Китаю, в давньогрецьких міфах про Пігмаліон і «розумних» треножників — помічників Гефеста. Всерйоз задумався про «автоматизацію» міркування Арістотель, який описав силлогізми — форми логічних побудов, що служать елементарними «цеглинками» раціонального мислення. Ще однією важливою віхою на цьому шляху стали роботи Готфріда Лейбніца, який наприкінці XVII століття не тільки заклав основи математичної логіки, а й багато міркував про можливості алгоритмізації мислення.

Наприкінці XVII століття Лейбніц описав концепцію раціоцинатора (ratiocinator) — логічної системи, яка дозволяє висловити будь-які похідні поняття ясним і простим способом на основі базових елементарних концепцій і суворих правил, здійснюючи над ними операції, подібні до математичних. Задум створення такої «філософської машини» був грандіозний, але в силу нерозвиненості техніки залишався нереалізованим ще багато років. Перший значний крок до цього був зроблений лише в 1830-х, коли Чарлз Беббідж спробував сконструювати аналітичну машину, механічний прообраз сучасних програмованих комп’ютерів. Результат виявився не надто успішним, проте спроби «механізувати» міркування не припинялися.

У 1930-х Курт Ґедель сформулював, а потім і довів теореми про неповноту, згідно з якими жодна система формальної арифметики не може бути одночасно і повною, і внутрішньо неповторною. Інакше кажучи, не існує такої системи, яка дозволяє доводити або спростовувати будь-які твердження. На деякий час це поставило багатьох фахівців у глухий кут. Але вже незабаром Алан Тьюрінг і Алонзо Черч ввели поняття обчислених (вирішуваних у тій чи іншій системі) функцій і показали, що всі вони можуть бути вирішені не за допомогою формул, а алгоритмічно — наприклад, за допомогою машини Тьюрінга.

Теза Тьюрінга в найпростішому формулюванні свідчить, що універсальна машина Тьюрінга може виконати будь-яке обчислення, яке здатна виконати людина-обчислювач. Ця дивовижна за простотою і глибиною ідея відкрила шлях до появи перших комп’ютерів, над якими сам Тьюрінг працював у роки Другої світової війни. Тоді ж британський вчений задумався і про створення «розумної машини» (intelligent machine) — термін «штучний інтелект» ще не з’явився.

Шахи і шифри

Багато фахівців і сьогодні вважають, що, перш ніж приступати до створення штучного інтелекту, слід з’ясувати природу і пристрій природного. Однак Тьюрінг дивився на проблему зовсім інакше. Він, по суті, наслідував ідей Рене Декарта, який вважав живі організми повністю автоматичними істотами, вважаючи, що повноцінна свідомість і мислення властиві лише людині. У такій картині світу розум людини, її інтелект відокремлені від реального світу як частина іншої «сфери свідомості». Так само і в уявленнях Алана Тьюринга інтелект практично не залежав від його фізичного носія.

У своїй знаменитій статті 1950 року «Обчислювальні машини і розум» («Computing Machinery and Intelligence») він визначив кілька областей, що представляють «вищі прояви» людського інтелекту, на моделюванні яких і слід було в майбутньому зосередитися. Це вивчення мов (і переклади), ігри (шахи тощо), математика і криптографія (включаючи рішення загадок). Якщо в цих сферах діяльність комп’ютера неможливо відрізнити від людської, міркував Тьюрінг, то їх мислення еквівалентні і можна сказати, що ми маємо справу з «розумною машиною».

Невже Тьюрінг вважав, що найважливіше в людині — це вміти грати в шахи, вести піднесені діалоги або розгадувати криптографічні загадки? Це не так. Британський математик був упевнений, що для створення інтелектуальних машин, що мають здібності, порівнянні з людськими, недостатньо просто навчити машину взаємодії з фізичним світом. У своєму звіті для Національної фізичної лабораторії 1948 року Тьюрінг писав, що така машина «не матиме можливості оцінити такі важливі для людини речі, як їжа, спорт або секс». Визнавши, що, розробляючи машину, здатну до взаємодії з реальними світом, ми йдемо шляхом більш гарантованого створення штучного розуму, Алан помічав, що в 1948-му цей шлях здається більш довгим і дорогим, ніж вчити комп’ютер грати в шахи.

Варто сказати, що вже через пару років після цієї публікації з’явилися «черепахи» Уолтера Грея — одні з перших автономних машин сучасності. Вельми примітивно влаштовані істоти демонстрували несподівано «розумну» поведінку і могли, наприклад, знаходити свою зарядну станцію за допомогою фототаксису, орієнтуючись по світлу. Ця складність народжувалася в прямій взаємодії реального світу з найпростішою «свідомістю» роботів, і, якби Тьюрінг писав свою статтю пізніше, він напевно сформулював би проблему інакше.

Зображення з Вікіпедії

Однак саме стаття, написана понад 70 років тому, задала концептуальні основи для роботи багатьох поколінь розробників штучного інтелекту. Згідно з Тьюринговим підходом, високорівневі інтелектуальні функції мозку можна відтворити на основі штучної системи, комп’ютера, без того, щоб імітувати систему у фізичному світі. Такі уявлення розвивав і описаний у тій же статті тест.

Всередині і за стіною

У своїх роздумах над тестом Тьюрінг відштовхувався від вікторіанської «гри в імітацію». За її умовами ведучий, обмінюючись записками з гравцями, повинен визначити, хто з них жінка, а хто прикидається. Зрозуміло, «суддя» при цьому їх не бачить, від гравців його відділяє стіна, непроникна для всього, крім обміну символьною інформацією — записочками, або, говорячи по-сучасному, повідомленнями в чаті. Таке випробування можна розглядати як «тест на інтелект» для чоловіка, якому потрібно імітувати «жіночі» (звичайно, в уявленнях вікторіанського часу) поведінку і реакції. Тест Тьюрінга переносив цю ситуацію на гру з комп’ютером, який повинен імітувати живу людину, залишаючись прихованим від судді все тією ж «стіною».

Ця стіна здається обов’язковим елементом тесту, адже без неї ми відразу побачимо, з ким маємо справу. Вона приховує фізичну реальність співрозмовника, але при цьому і зводить все його мислення до обмеженого набору процесів. При цьому навіть сам герой нашої розповіді визнавав, що повноцінне людське пізнання світу неможливе без прямої взаємодії з ним. Однак у той час імітація таких завдань, як заняття спортом, їжа або секс, здавалася абсолютно немислимою, тому британський математик відніс їх до невизначено далекого майбутнього, запропонувавши зосередитися на іграх, мовах і криптографії.

В результаті Тьюрінг дав старт своєрідній гонці між людиною і машиною виключно у віртуальному просторі. При цьому ідея такого тесту стимулювала розробку систем, що виконують якісь певні, вузькі функції — будь то гра в шахи, переведення або керування автомобілем — краще людей і навіть готових замінити нас в тій чи іншій області. Вузькість можливостей інтелектуальної машини була спочатку закладена в парадигмальній ідеї британського математика, що обмежує інтелект лише простими вербальними, символьними комунікаціями та ігнорує всі інші модальності. Чи можна назвати інтелект, який вміє грати в шахи, базікати і розгадувати загадки, загальним? Навряд чи.

Однак до тих пір, поки робот або комп’ютер залишається відокремлений від людини і від світу стіною, він не здатний повноцінно взаємодіяти з ними, і справжня інтелектуальність машини підміняється складністю реалізованих нею функцій. Можливо, для безпілотного автомобіля або шахової програми цього достатньо, але в гонитві за загальним штучним інтелектом без зміни парадигми вже не обійтися: доведеться «ламати стіну» і переходити до нової, посттьюрингової методології. Суть її в тому, що всі згадані Тьюрінгом елементи «тесту» складають єдине ціле і розглядаються в комплексі: спостерігач-суддя, який випробовується (людина або комп’ютер) та інструмент запитування (стіна перетворюється на середовище взаємодії, інтерфейс між машиною і людиною).

Перевірка листуванням

Для легкого пояснення можна звернутися до подумки експерименту «дівчина з листування», запропонованого Андрієм Алексєєвим. Припустимо, юнак у пошуках пари звертається до сервісу знайомств через Інтернет. Вказавши відповідні параметри (вік, спосіб життя тощо), він отримує список користувачок і починає листування з однією з них. Після довгого віртуального спілкування молодий чоловік нарешті запрошує її на побачення, лише тоді виявляючи, що весь цей час розмовляв з програмою. Такий розвиток подій еквівалентний успішному проходженню штучним інтелектом тесту Тьюрінга в його класичній версії. Очікуючи, що розвиток технологій продовжиться в рамках вже існуючих тенденцій, колись заданих Тьюрингом, Алексєєв припустив, що «в недалекому майбутньому втілиться і сценарій» дівчина з листування «».

Однак можна помітити, що навіть якщо цей сценарій і втілиться, він не має ніякого практичного сенсу. Листування «через стіну Тьюринга» позбавляє машину можливості всебічної корисної взаємодії з людиною і світом. Щоб пояснити це, представимо інший варіант розвитку подій у тому ж експерименті. Припустимо, що коли справа дійшла до побачення, юнак зустрічає свою партнерку по листуванню в кафе — вона цілком жива і справжня. Однак розмова в офлайні не клеїться: виявляється, у них не так багато спільних інтересів, а дотепні і доречні репліки, які давала дівчина при листуванні, їй автоматично підказував штучний інтелект. Розчарований молодий чоловік повертається додому і пише їй, що від такої зустрічі йому трохи не по собі, але та відповідає цитатою з його улюбленого серіалу, і листування відновлюється.

Таким чином, стіни, що розділяє машину і людину, більше не існує, вона не потрібна для оцінки штучного інтелекту і його взаємодії з людьми. При цьому комп’ютер виявляється більш близьким і зрозумілим емоційно, ніж навіть жива співрозмовниця, він «більш людяний, ніж сама людина». У зв’язку з цим можна знову згадати Платона з його «вічними ідеями», реалізаціями яких є реальні об’єкти. Штучний інтелект, не обмежений стіною Тьюрінга, може втілювати «ідею інтелекту» так само, як це робить сама людина, нарівні і у взаємодії з ним. Людина знає, з ким має справу, і розуміє, що з машиною їй краще: цікавіше, корисніше, надійніше.

Після Тьюрінга

Справжня мисляча машина повинна стати продуктом різнобічних взаємодій з людиною і навколишнім світом: вербальних і невербальних, що відбуваються як у віртуальному середовищі, так і в реальному. Так, класичний тест Тьюрінга охоплює тільки області вербальної та віртуальної взаємодії, як і схеми Террі Винограда і більшість інших популярних тестів штучного інтелекту. Це не дивно, адже всі вони знаходяться в заданій британським генієм парадигмі, «за стіною». Зламати її — значить вийти в області невербального і реального освоєння світу штучним інтелектом.

Зрештою, сьогодні ми розуміємо, що певними формами свідомості володіють багато тварин, включаючи навіть головоногих молюсків. І кожен раз мислення і його прояви виявляються пов’язані з реальними умовами існування, з тілесністю живої істоти, її моторикою. На думку нашого видатного філософа Давида Дубровського, розвиток психіки торкнувся лише тих організмів, які активно пересуваються в зовнішньому середовищі. Схоже, що повноцінне пізнання навколишнього світу в принципі неможливо без фізичної взаємодії з ним. Тому умовою створення «спільного» («сильного») штучного інтелекту буде можливість роботи в різних модальностях і різних середовищах. Йому потрібен вихід в області невербального і фізичного.

Прикладами штучних інтелектів, які справляються з невербальними завданнями, можуть служити вже існуючі системи, що грають в комп’ютерні ігри, або віртуальна телеведуча Олена (створена в Лабораторії робототехніки Сбера, вона повністю імітує справжню телеведучу, включаючи рухи, емоції і жести). Однак і перші, і друга не залишають меж віртуального. Справжня взаємодія з людиною у фізичному світі досі залишається надзвичайно складним завданням. Для загального штучного інтелекту цього недостатньо: така машина повинна охоплювати всі чотири області взаємодій і середовищ.

Прихід техноумвельтів

Ще в XIX столітті видатний біолог Якоб фон Ікскюль зазначив, що різним живим істотам властиві різні сфери світосприйняття — умвельти. Умвельт метелика помітно відрізняється від умвельту риби або людини. За аналогією з ними чотири області взаємодій, можливі для машин, пропонується називати техноумвельтами. Техноумвельт — домен світосприйняття, те, як машина бачить навколишній світ. Умвельт людини знайомий кожному з нас, а техноумвельти безпілотних автомобілів, які користуються радарами і лідарами, багато хто спостерігав у відеороликах.

Описані вище вимірювання взаємодій людини і машини (вербальне — невербальне і віртуальне — фізичне) дають чотири незалежні техноумвельти: вербальне віртуальне, невербальне віртуальне, вербальне фізичне і невербальне фізичне. Універсальність загального штучного інтелекту (AGI) можлива тільки при вільному переміщенні машини між усіма чотирма техноумвельтами. Поточне покоління ШІ здатне розпізнавати об’єкти різного класу без попереднього навчання. Це найважливіше досягнення, однак воно ніяк не пов’язане з можливістю працювати в різних техноумвельтах. Мабуть, для цього потрібно реалізувати свого роду «перекладачі» з мови, властивої одному домену світосприйняття, мовою іншої. Лише тоді штучний інтелект зможе стати по-справжньому мультимодальним, зуміє вирішувати весь спектр можливих завдань і повноцінно «спілкуватися» з людиною.

Його поява назавжди змінить нашу взаємодію з технікою. Після тисячоліть філософських роздумів і науково-технічного прогресу люди вперше в історії зіткнуться з по-справжньому «розумними» речами, з пристроями, які можуть володіти навіть більш повними і точними знаннями про світ і про нас, ніж ми самі. Така ситуація потребує нового погляду на те, чим є людина і її розум, перевизначити багато усталених уявлень.

Ці процеси вже почалися: сьогодні ми починаємо «розчинятися» в навколишніх нас всюди технологіях і гаджетах, розмивається саме поняття «людини». У міру освоєння комп’ютерами нових сфер діяльності, будь то шахи або переклад, вони перестають вважатися винятковою прерогативою людини. Можливо, людина — це те, що машина зробити ще нездатна. Людям-інженерам під силу створити машину, яка може самостійно дістатися з точки А в точку Б, але потрібно стати філософом, щоб побачити місце, де знаходиться ця точка Б.