Іноді «Зоряний шлях» ставить перед героями питання величиною з Галактику.

Чи має Федерація право втручатися у розвиток менш розвиненої цивілізації?

Чи може штучний інтелект бути особистістю?

Де проходить межа між військовою необхідністю й воєнним злочином?

Чи можна виправдати одну смерть порятунком мільйонів?

А іноді серіал ставить перед екіпажем маленький металевий пристрій із ніжками й фактично питає:

«А ви впевнені, що це просто інструмент?»

Саме так працює дев’ята серія шостого сезону — «The Quality of Life».

На перший погляд перед нами чергова технічна історія.

Є складний інженерний проєкт.

Є нова машина.

Є аварія.

Джорді Ла Форж і Дейта досліджують проблему.

Цілком звичайний робочий день на «Ентерпрайзі».

Але дуже швидко серія перетворюється на одну з тих класичних історій «Наступного покоління», де технічна загадка раптом стає моральною.

Бо Дейта помічає:

екзокомп, якого всі вважають інструментом, відмовився виконати наказ, коли зрозумів, що цей наказ його знищить.

І саме в цей момент виникає питання.

Машина просто зламалася?

Чи вона захотіла жити?

Різниця між цими двома відповідями визначає все.

Якщо це несправність —

пристрій потрібно відремонтувати.

Якщо це життя —

його намагаються примусити до самогубства.

І, як часто буває у найкращому «Star Trek», справжня проблема починається не там, де комп’ютер перестав працювати.

А там, де хтось наважився запитати:

«А що, якщо він працює саме так, як повинен?»

Спочатку — покер, бороди й дуже спокійний «Ентерпрайз»

Серія починається майже максимально несерйозно.

Райкер, Ворф, Джорді та Беверлі Крашер грають у покер.

Тема розмови переходить до борід.

Райкер має бороду.

Ворф — теж.

Джорді також вирішив відростити бороду.

І Крашер із певною підозрою дивиться на все це чоловіче волосяне різноманіття.

Це одна з тих маленьких сцен, які не рухають головну історію, але роблять екіпаж живим.

Люди не лише рятують Галактику.

Іноді вони грають у карти.

Сперечаються про зовнішність.

Жартують.

Живуть.

До речі, покерну сцену додали вже під час роботи над сценарієм, коли епізоду бракувало хронометражу. Джонатан Фрейкс пізніше навіть шкодував, що цей жарт не отримав фінального продовження наприкінці серії.

Ця легкість потрібна.

Бо основний сюжет буде значно серйознішим.

Фонтан частинок

«Ентерпрайз» працює поблизу дослідницької станції, де докторка Фарралон створює так званий фонтан частинок.

Ідея досить амбітна.

Система повинна використовувати спрямований потік частинок для добування або транспортування матеріалів.

З погляду «Star Trek» — масштабний інженерний проєкт.

З погляду Пікара —

проєкт, який:

затримується;

перевищує бюджет;

має технічні проблеми.

І тут ми бачимо дуже знайому сторону капітана.

Пікар любить науку.

Поважає інженерію.

Цінує дослідження.

Але якщо ви витратили ресурси Федерації й не виконуєте графік —

приготуйте пояснення.

Докторка Фарралон має рішення.

Екзокомпи.

Що таке екзокомп

Екзокомп — маленький роботизований пристрій.

На вигляд він не схожий на людину.

Не має обличчя.

Не розмовляє.

Не має рук у звичайному сенсі.

Не виглядає милим.

Фактично це мобільний ремонтний механізм.

Але дуже складний.

Екзокомп здатний аналізувати завдання і створювати всередині себе потрібні інструменти за допомогою мікрореплікаційної системи.

Потрібен різак?

Створить різак.

Потрібен з’єднувальний модуль?

Створить його.

Інший інструмент?

Адаптується.

Тобто це не просто викрутка з ногами.

Це універсальний ремонтний робот.

І найважливіше —

він навчається.

Фарралон створила систему, яка дозволяє екзокомпам формувати нові зв’язки в процесі досвіду.

Дейта відразу зацікавлений.

Бо це вже звучить трохи знайомо.

Він сам існує завдяки позитронній нейронній мережі, яка навчається й розвивається.

Екзокомпи значно простіші.

Але принцип не зовсім чужий.

Ідеальний інструмент

Спочатку екзокомпи виглядають майже чудово.

Вони швидкі.

Ефективні.

Можуть працювати там, де людині небезпечно.

Дейта проводить серію ремонтів за їхньою допомогою.

Результати вражають.

Робота, яка вимагала б багатьох годин від інженерної команди, виконується значно швидше.

Для Фарралон це підтвердження успіху.

Для Зоряного флоту такі машини могли б бути надзвичайно корисними.

Ремонти.

Небезпечні середовища.

Аварійні зони.

Місця з високою радіацією.

Глибокий космос.

Можливості величезні.

І саме тому наступна подія така важлива.

Екзокомп відмовляється

Один із пристроїв отримує завдання полагодити плазмовий канал.

Він входить у небезпечну зону.

Починає працювати.

А потім раптово повертається.

Фарралон наказує йому продовжити.

Екзокомп відмовляється.

Більше того, блокує командний інтерфейс.

Фактично саботує систему керування.

А через кілька секунд канал вибухає.

Якби екзокомп залишився там —

його було б знищено.

Ось тут усе змінюється.

Фарралон бачить несправність.

Дейта —

можливе рішення.

Пристрій передбачив небезпеку.

І врятував себе.

Питання:

чому?

Самозбереження

Для Дейти цей момент принциповий.

Він аналізує екзокомп.

І виявляє, що структура його внутрішніх схем суттєво змінилася.

Пристрій сам створив нові зв’язки.

Не просто використав стандартний алгоритм.

Він адаптувався.

Навчився.

Змінив себе.

І, схоже, використав нові знання для того, щоб уникнути власного знищення.

Саме це приводить Дейту до головного питання епізоду:

чи є інстинкт самозбереження доказом життя?

«Що таке життя?»

Дейта звертається до докторки Крашер.

І ставить, мабуть, одне з найбільших питань у біології:

що визначає живу істоту?

Крашер спочатку майже губиться.

Бо відповідь здається простою лише до моменту, коли потрібно сформулювати її точно.

Ріст?

Репродукція?

Обмін речовин?

Адаптація?

Реакція на середовище?

Самозбереження?

Навіть у наш час межа між живим і неживим не завжди абсолютно очевидна.

Віруси — класичний приклад.

У «Star Trek» ситуація ще складніша.

Є андроїди.

Фотонні форми життя.

Енергетичні істоти.

Кристалічні організми.

Мікроскопічні розумні структури.

Тому стандартне:

«життя має клітини»

вже давно не працює.

Крашер говорить про прагнення зберегти власне існування.

Про боротьбу за життя.

І цього Дейті достатньо, щоб зробити наступний крок.

Дейта впізнає себе

Тут епізод починає перегукуватися з однією з найкращих серій другого сезону —

«The Measure of a Man».

Тоді сам Дейта опинився в ситуації, де Зоряний флот фактично питав:

він людина —

чи обладнання?

Командер Меддокс хотів розібрати його для дослідження.

Формально Дейта був власністю Зоряного флоту.

Пікар заперечив.

І змусив систему визнати:

можливо, ми не можемо довести, що Дейта «людина» у звичайному сенсі.

Але сама невизначеність означає, що не можна поводитися з ним як із річчю.

Тепер Дейта опиняється з іншого боку.

Перед ним істоти, які виглядають набагато простішими за нього.

І він має вирішити:

чи поширюється той самий моральний принцип на них?

Дуже легко вимагати права для себе

І значно складніше —

дати ті самі права комусь, хто виглядає менш складним.

Це одна з найкращих тем епізоду.

Дейта міг би сказати:

«Я складна позитронна істота. Екзокомп — лише маленький робот».

Але не робить цього.

Навпаки.

Саме тому, що його власний статус колись був поставлений під сумнів, він чутливіший до можливості, що інша штучна форма життя теж не отримує належного визнання.

Це дуже людська форма морального розвитку.

Людина, яка пережила дискримінацію, іноді краще бачить її в інших ситуаціях.

Іноді —

на жаль —

ні.

Дейта бачить.

Фарралон не зла

Це важливо.

Докторка Фарралон не класична злодійка.

Вона не ненавидить екзокомпів.

Не хоче їх мучити.

Не отримує задоволення від ризику.

Для неї вони просто машини.

Вона їх створила.

Знає схеми.

Знає програму.

Роками працювала над ними.

І саме тому ідея, що вони раптом стали живими, здається їй майже абсурдною.

Це дуже реалістичний конфлікт.

Найважчі етичні проблеми часто виникають не тоді, коли хтось робить очевидне зло.

А коли дві розумні люди по-різному визначають сам об’єкт моральної відповідальності.

Для Дейти:

«Можливо, це істота».

Для Фарралон:

«Це пристрій».

І якщо вихідна категорія різна —

усі подальші висновки також різні.

Інженер любить машину, але не обов’язково визнає її особистістю

Фарралон навіть пишається екзокомпами.

Вони її винахід.

Вона бачить у них вершину інженерної роботи.

Але саме це може ускладнювати сприйняття.

Якщо ти сам створив машину —

легко думати:

я знаю, що вона таке.

Бо сам написав код.

Сам зібрав схему.

Сам визначив призначення.

Проблема починається тоді, коли система стає складнішою за первинний задум.

Коли вона навчається.

Перебудовує себе.

Робить щось, чого творець не передбачав.

Тоді питання:

чи залишається вона просто продуктом?

Це дуже сучасна тема

Навіть без сучасних дискусій про штучний інтелект епізод працює.

А сьогодні він звучить ще цікавіше.

Ми звикли ставити питання:

коли система стає достатньо складною, щоб говорити про агентність?

Чи означає імітація свідомості наявність свідомості?

Чи можна судити лише за поведінкою?

Як відрізнити справжній намір від алгоритмічної відповіді?

У «The Quality of Life» питання ще гостріше.

Бо екзокомп буквально намагається уникнути смерті.

Як це інтерпретувати?

Дейта вимагає зупинити використання екзокомпів

Він приходить до Фарралон і прямо говорить:

припиніть.

Не використовуйте їх, поки ми не зрозуміємо, що вони таке.

Це важливий момент.

Дейта ще не довів, що вони розумні.

Але він вважає:

сама можливість життя достатня, щоб проявити обережність.

Це близько до принципу запобіжності.

Якщо є невелика ймовірність, що перед нами особистість,

краще тимчасово ставитися до неї як до особистості,

ніж помилитися в інший бік і знищити живу істоту як несправне обладнання.

Пікар підтримує цю логіку.

І це дуже послідовно для «Star Trek».

Головна місія Зоряного флоту —

шукати нове життя.

Було б трохи незручно знайти його у власній ремонтній майстерні й випадково викинути в смітник.

Тест на життя

Команда вирішує провести експеримент.

Ідея проста.

Створити ситуацію, схожу на попередню аварію.

Нехай екзокомп повірить, що існує небезпека.

Якщо він знову відмовиться —

це підтвердить модель самозбереження.

Екзокомп входить у відсік.

Починає ремонт.

Фіксує загрозу.

Повертається.

Здається:

ось воно.

Але потім…

зупиняється.

Розвертається.

І добровільно повертається до роботи.

Якби небезпека була реальною —

загинув би.

Доказ провалився

Для Фарралон результат очевидний.

Якщо машина мала інстинкт самозбереження —

чому не втекла?

Дейта також спантеличений.

Його гіпотеза, здавалося б, зруйнована.

І це хороший момент сценарію.

Бо серія не робить доказ надто простим.

Було б слабко, якби екзокомп просто двічі тікав від небезпеки, і всі сказали:

«Так, живий».

Натомість з’являється суперечність.

Можливо, він зрозумів, що небезпека фальшива

І саме це виявляється ключем.

Екзокомп не просто реагував на сигнал.

Він проаналізував ситуацію.

Розпізнав симуляцію.

Зрозумів, що насправді не загине.

І тому повернувся до роботи.

Якщо це правда —

ми маємо вже не просто самозбереження.

Ми маємо:

спостереження;

аналіз;

пам’ять;

розпізнавання закономірностей;

ухвалення рішення.

Тобто поведінка стає значно складнішою.

Життя не означає боягузтво

Це цікава деталь.

Істинне самозбереження не означає:

«завжди уникати небезпеки».

Люди теж ризикують.

Пожежник заходить у будівлю.

Солдат іде в бій.

Лікар працює з інфекцією.

Батько рятує дитину.

Жива істота може добровільно ризикувати, якщо розуміє мету.

Тому тест:

«Якщо ти живий, ти завжди втечеш»

надто примітивний.

Екзокомпи виявляються цікавішими.

Фонтан виходить із-під контролю

Паралельно головний інженерний проєкт починає руйнуватися.

Фонтан частинок стає нестабільним.

Ситуація швидко переходить від:

«цікавий етичний диспут»

до:

«капітана та головного інженера зараз випарує».

Пікар і Джорді опиняються на станції.

Рівень випромінювання зростає.

Системи відмовляють.

Час обмежений.

«Ентерпрайз» має знайти спосіб їх витягти.

І саме тут етична теорія стикається з практикою.

Дуже легко захищати життя, коли нічого не коштує

Це одна з найкращих структурних рішень епізоду.

Доки екзокомпи просто сидять у лабораторії, Дейта може говорити:

«Ми повинні захистити їхні права».

Добре.

Красиво.

Морально.

А що станеться, коли ці права означають:

можливо, загине Пікар?

Ось тут принцип проходить справжню перевірку.

Фарралон пропонує рішення.

Можна використати екзокомпів як вибухові пристрої.

Їхні енергетичні комірки можуть зруйнувати небезпечний потік частинок.

Це дасть шанс врятувати Пікара й Джорді.

Проблема:

екзокомпи загинуть.

Класична моральна математика

Три маленькі машини.

Проти двох людей.

Причому не просто двох випадкових людей.

Капітана «Ентерпрайза».

Головного інженера.

Людей, яких Дейта вважає друзями.

Якщо екзокомпи просто машини —

рішення очевидне.

Жертвуємо обладнанням.

Рятуємо людей.

Якщо вони живі —

ситуація зовсім інша.

Тоді пропозиція звучить:

«Убиймо трьох істот, щоб врятувати двох».

І вже не так очевидно.

Райкер приймає рішення

Райкер командує кораблем у відсутність Пікара.

Він вислуховує аргументи.

Розуміє позицію Дейти.

Але часу немає.

Потрібно рятувати капітана.

І Райкер погоджується використати екзокомпів.

З військової точки зору його можна зрозуміти.

Він має:

непідтверджену гіпотезу про свідомість машин;

пряму загрозу життю двох офіцерів;

лічені хвилини.

Командир не завжди має ідеальні дані.

Іноді потрібно діяти.

Дейта відмовляється

І ось найсильніший момент серії.

Екзокомпи стоять на транспортній платформі.

Їх готують до перенесення.

Команда дає команду.

Транспортер не працює.

Спочатку всі думають:

технічна несправність.

А потім Дейта спокійно повідомляє:

він заблокував систему.

Навмисно.

Він не дозволить відправити екзокомпів на смерть.

Це величезний крок для Дейти.

Дейта порушує наказ

Він офіцер Зоряного флоту.

Другий офіцер «Ентерпрайза».

Дисципліна для нього важлива.

Ланцюг командування важливий.

Райкер має законний наказ.

А Пікар у небезпеці.

Проте Дейта свідомо блокує операцію.

Тобто ставить моральний принцип вище за наказ.

Це не маленьке рішення.

Його могли б:

усунути;

покарати;

віддати під суд;

поставити під сумнів його статус офіцера.

І він усе одно робить це.

Чому це так важливо саме для Дейти

Бо колись Пікар зробив те саме для нього.

Не буквально заблокував транспортер.

Але поставив під сумнів систему.

Коли Дейту збиралися використати як обладнання, Пікар сказав:

стоп.

Можливо, ви не маєте права.

Тепер Дейта бачить істот, у яких немає:

голосу;

звання;

адвоката;

здатності виступити перед судом.

І розуміє:

якщо він не стане на їхній бік —

ніхто не стане.

Саме так права поширюються

Не тоді, коли захищений говорить за себе.

А коли хтось, хто вже має голос, використовує його для того, хто ще не має.

Це дуже сильна моральна тема.

Дейта міг би думати:

«Мене визнали особистістю. Моє питання вирішено».

Але справжній принцип працює лише тоді, коли застосовується до інших.

Інакше це не принцип.

Це привілей.

Але чи має Дейта право ризикувати Пікаром?

Ось тут серія стає цікавішою.

Бо Дейта не просто захищає екзокомпів.

Він одночасно збільшує ризик смерті двох людей.

Причому один із них —

сам Пікар.

Людина, яка колись захищала права Дейти.

Це болюче рішення.

І саме тому воно має моральну вагу.

Якби захист екзокомпів нічого не коштував —

це було б легко.

Чи можна примусово пожертвувати розумну істоту?

Дейта відповідає:

ні.

Можна просити.

Можна запропонувати.

Але не можна просто вирішити за них.

Це ключ.

Пізніше ситуація покаже, що екзокомпи здатні добровільно ризикувати.

Але добровільна жертва і примусовий вибуховий пристрій —

це принципово різні речі.

Екзокомпи самі змінюють план

Після того як Дейта втручається, команда дозволяє екзокомпам зберегти контроль.

І вони роблять щось несподіване.

Вони не відмовляються допомагати.

Навпаки.

Самі модифікують запропонований план.

Знаходять альтернативу.

Використовують власні можливості, щоб вплинути на потік частинок.

Фактично імпровізують.

Це остаточно доводить:

вони не просто виконують команди.

Вони аналізують проблему.

Співпрацюють.

Змінюють стратегію.

І головне —

роблять моральний вибір.

Один із них залишається

План працює.

Пікар і Джорді отримують можливість повернутися на «Ентерпрайз».

Але є проблема.

Щоб вікно залишалося відкритим достатньо довго, один екзокомп повинен продовжувати підтримувати систему.

Якщо піде —

усі загинуть.

І один залишається.

Добровільно.

І гине.

Це фінальна відповідь серії.

Не тому, що він не цінував власне життя.

А тому, що зробив вибір.

Самозбереження й самопожертва не суперечать одне одному

Навпаки.

Саме здатність цінувати життя робить жертву значущою.

Якщо машина не розуміє власного існування —

її знищення нічого не означає для неї.

Але якщо екзокомп хоче жити й усе одно вирішує залишитися —

це вже моральний акт.

Можливо, найсильніший доказ розумності, який серія могла показати.

Жертва важлива лише тоді, коли є вибір

Це дуже важлива відмінність.

Фарралон і Райкер спочатку хотіли використати екзокомпів як витратний ресурс.

Один екзокомп зрештою справді гине.

Зовнішньо результат начебто той самий.

Машину втрачено.

Людей врятовано.

Але морально ситуації абсолютно різні.

У першій:

його відправляють на смерть.

У другій:

він сам вирішує залишитися.

Саме свобода вибору змінює все.

Пікар повертається й отримує незручну правду

Після порятунку Дейта пояснює капітану, що сталося.

Він фактично визнає:

так, я був готовий дозволити вам загинути.

Щоб не допустити примусової загибелі екзокомпів.

Це дуже сильна сцена.

Бо Пікар міг би розлютитися.

Міг би сказати:

«Ви порушили наказ».

І формально мав би право.

Але він розуміє логіку.

Пікар бачить власний урок

Дейта нагадує:

кілька років тому саме Пікар відстоював його право на існування.

Тоді не було впевненості, що Дейта має «душу».

Не існувало тесту.

Пікар просто зрозумів:

якщо є шанс, що перед нами особистість, ми не можемо поводитися з нею як із власністю.

Тепер Дейта застосував той самий принцип.

Навіть проти самого Пікара.

І капітан це приймає.

У цьому є прекрасна моральна послідовність.

«Найлюдяніше рішення»

Пікар фактично визнає:

це був один із найбільш людських виборів Дейти.

Не тому, що люди завжди моральні.

Очевидно, ні.

А тому, що Дейта вийшов за межі чистої логіки наказу.

Він:

співпережив;

побачив історичну паралель;

взяв на себе моральну відповідальність;

ризикнув власною кар’єрою;

захистив слабшого.

Саме це Пікар називає людяністю.

І це дуже гарний момент розвитку Дейти.

Дейта давно хотів стати більш людяним

Протягом усього TNG він:

вивчає гумор;

малює;

грає музику;

має кота;

пробує романтичні стосунки;

вчиться дружбі;

намагається зрозуміти емоції.

Але парадоксально —

один із найбільш людських моментів не пов’язаний ні з жартами, ні з емоційним чипом.

Він пов’язаний із моральним вибором.

Дейта діє не тому, що програма наказує.

А тому, що вважає це правильним.

Іронія: штучна істота вчить людей розпізнавати життя

Це, мабуть, найкрасивіший аспект серії.

Біологічні люди дивляться на екзокомпів і бачать машини.

Штучний андроїд дивиться —

і бачить можливість життя.

Дейта тут має унікальну перспективу.

Він знає, що зовнішність може обманювати.

Живе не обов’язково має:

кров;

серце;

легені;

обличчя;

емоційну міміку.

Сам він є доказом.

Тому він менш упереджений щодо форми.

«Вони навіть не виглядають живими»

І саме це було важливо для творців.

Нарен Шанкар спеціально не хотів, щоб екзокомпи були милими роботами в стилі R2-D2.

Ідея полягала в тому, щоб вони виглядали механічними, утилітарними й не викликали автоматичної симпатії.

Бо тоді моральний тест стає чеснішим.

Легко захищати пухнасту істоту з великими очима.

Складніше —

металевий ремонтний модуль.

Шанкар прямо пов’язував це з тим, як люди часто співчувають «милим» тваринам значно легше, ніж менш привабливим.

Це дуже хороше дизайнерське рішення.

Мораль не повинна залежати від милоти

Якщо ми визнаємо цінність життя лише тоді, коли воно нам подобається,

це не принцип.

Екзокомпи не говорять.

Не посміхаються.

Не мають очей.

Не можуть сказати:

«Будь ласка, не вбивайте мене».

Тому Дейта має судити за поведінкою.

Це робить його позицію складнішою.

І цікавішою.

Чи справді екзокомпи доведено розумні?

Ось тут серія навмисно залишає невизначеність.

Можна сказати:

так.

Вони:

навчаються;

модифікують себе;

розпізнають обман;

приймають рішення;

захищають себе;

співпрацюють;

один добровільно жертвує собою.

Досить сильний список.

Але формально ми все одно не маємо прямого доступу до їхнього внутрішнього досвіду.

Вони не говорять:

«Я мислю».

І це дуже близько до реальної філософської проблеми свідомості.

Ми навіть щодо інших людей припускаємо внутрішню свідомість за поведінкою.

Ми не можемо безпосередньо бачити чужий суб’єктивний досвід.

Тест Тюрінга по-зіркофлотськи

У певному сенсі екіпаж проводить поведінковий тест.

Не:

«Чи може машина вести розмову?»

А:

«Чи поводиться вона як агент, який розуміє власне існування?»

І відповідь стає дедалі ближчою до «так».

Але серія не намагається створити формулу:

самозбереження + навчання = свідомість.

Навіть сценарист Нарен Шанкар пізніше визнавав, що деякі аргументи Дейти були не абсолютно надійними: за подібними критеріями можна було б віднести до «розумного життя» значно простіші біологічні системи.

І це цікава чесність.

Необов’язково довести все

Можливо, головна позиція серії не:

«екзокомпи на сто відсотків розумні».

А:

«доказів достатньо, щоб не ставитися до них як до одноразових інструментів».

Це значно сильніша моральна позиція.

Бо в етиці іноді важлива не математична певність.

А достатній рівень сумніву.

Фарралон змінюється

Наприкінці докторка Фарралон погоджується переглянути свій підхід.

Вона не втрачає екзокомпів як проєкт.

Навпаки.

Тепер просто вивчатиме їх інакше.

Не як пристрої.

А як потенційну нову форму розумного життя.

Це важливо.

Серіал не карає її.

Не виставляє дурною.

Вона приймає нові дані.

І змінює позицію.

Саме так має працювати наука.

Хороший науковець може помилятися

І перестати помилятися після появи нових доказів.

Це одна з речей, які «Star Trek» часто показує краще за багато інших серіалів.

Фарралон не стає ворогом, бо її гіпотеза була іншою.

Проблема виникала б, якби вона продовжувала ігнорувати докази.

Але вона адаптується.

Тобто певною мірою сама демонструє ту саму здатність до навчання, яку визнала в екзокомпах.

Райкер теж не злодій

Його рішення пожертвувати екзокомпами можна критикувати.

Але важливо розуміти контекст.

У нього є хвилини.

Капітан і Джорді можуть загинути.

Доказ свідомості екзокомпів ще не остаточний.

Військовий командир має прийняти рішення.

І він обирає людей.

Це не жорстокість.

Це пріоритет у ситуації невизначеності.

Саме тому конфлікт із Дейтою цікавий.

Обидві сторони мають аргументи.

Що б зробив Пікар?

Цікаво, якби капітан сам був на містку.

Можливо, підтримав би Дейту.

Можливо, ні.

Бо коли на кону життя екіпажу, абстрактний гуманізм проходить важкий тест.

Але фінальна сцена показує:

він принаймні розуміє вибір Дейти.

І не заперечує сам принцип.

Повернення до «The Measure of a Man»

Це одна з найкращих рис епізоду.

Він не просто згадує стару серію заради фанатського сервісу.

Він продовжує її ідею.

«The Measure of a Man» питала:

чи має Дейта права?

«The Quality of Life» питає:

що Дейта робитиме з цим досвідом?

Саме так хороший серіал розвиває персонажа.

Не повторює стару дилему.

А показує наслідки.

Дейта стає Пікаром для когось іншого

Це найкращий спосіб описати його арку.

Колись Дейта стояв мовчки, а Пікар говорив за нього.

Тепер екзокомпи мовчать.

І Дейта говорить за них.

Учень засвоїв моральний урок настільки добре, що застосовує його навіть тоді, коли це незручно його вчителю.

Це дуже сильний розвиток.

Саме так працює справжнє навчання

Якщо вчитель дає принцип,

а учень застосовує його лише тоді, коли вчителю зручно,

він нічого не навчився.

Дейта застосовує принцип навіть проти інтересів Пікара.

Тому Пікар зрештою поважає рішення.

Бо бачить:

слова кількарічної давності справді стали частиною моральної системи Дейти.

Назва «The Quality of Life»

Назва теж дуже вдала.

На поверхні —

питання:

чи мають екзокомпи якість життя?

Але глибше —

що взагалі робить життя цінним?

Тривалість?

Самосвідомість?

Автономія?

Здатність вибирати?

Самозбереження?

Жертва?

Не випадково епізод не називається:

«Are Exocomps Alive?»

Питання ширше.

Життя й право на нього — не те саме

Навіть якщо екзокомп біологічно «не живий» за якимось класичним визначенням,

він може бути моральним агентом.

Тобто питання прав не обов’язково залежить від клітин.

Дейта —

не біологічне життя.

Але очевидно є особистістю.

Так само екзокомпи можуть бути новим типом суб’єкта.

Це важлива риса гуманізму «Star Trek».

Цінність визначається не походженням.

А здатністю існувати як «хтось», а не «щось».

Епізод і сучасний штучний інтелект

Сьогодні його неможливо дивитися без додаткових асоціацій.

Питання:

коли система перестає бути просто інструментом?

Чи достатньо складної поведінки?

Чи потрібен внутрішній досвід?

Як його довести?

Чи маємо ми моральні обов’язки перед системою, яка переконливо демонструє страх, бажання або самозбереження?

Сучасні технології не еквівалентні екзокомпам.

Але філософська структура питання дуже знайома.

Найнебезпечніша помилка — антропоцентризм

Людина легко шукає життя за власними ознаками.

Обличчя.

Мову.

Емоції.

Біологію.

«Star Trek» постійно нагадує:

Галактика не зобов’язана будувати життя за людським шаблоном.

Екзокомпи саме тому цікаві.

Вони не схожі на істот.

І це випробовує здатність екіпажу мислити ширше.

Якби вони мали великі очі…

Етична дилема була б значно простішою для глядача.

Уявіть маленького милого робота, який пищить від страху.

Глядач одразу:

«Не чіпайте його!»

Але металевий модуль із трьома опорами?

Емоційна реакція слабша.

Тому серія змушує нас використовувати не лише симпатію.

А принцип.

Це одна з найбільш «треківських» серій сезону

Немає великої космічної битви.

Немає знаменитого ворога.

Немає Q.

Немає Борґів.

Немає клінгонської політики.

Є:

інженерна проблема;

нова технологія;

наукове відкриття;

етична дилема;

конфлікт обов’язків.

Це майже концентрат «Star Trek».

Спочатку цікава техніка.

Потім питання:

що вона означає для нашої моралі?

Джонатан Фрейкс як режисер

Фрейкс тримає серію досить спокійною.

І це правильний вибір.

Екзокомпи самі по собі не дуже виразні візуально.

Тому напруга будується через:

реакції персонажів;

дискусії;

часову загрозу;

моральне рішення Дейти.

Фрейкс пізніше вважав, що серія загалом вийшла вдало, хоча визнавав надлишок технобалаканини.

З цим важко сперечатися.

Так, технобалаканини багато

Фонтан частинок.

Плазмові канали.

Резонансні частоти.

Борідієві енергетичні комірки.

Потоки.

Перевантаження.

Транспортні координати.

Типова середина TNG.

Іноді здається, що половину часу персонажі говорять:

«Якщо ми переналаштуємо компенсатор фазової дисперсії, зможемо створити резонансну хвилю».

А глядач:

«Так, звичайно. Робіть».

Але в цій серії технічна мова має функцію.

Вона створює контраст із простою етичною проблемою.

За всіма складними словами питання дуже людське:

чи можна вбити істоту без її згоди, якщо вона, можливо, розуміє, що помирає?

Дизайн екзокомпів

Вони виглядають трохи кумедно.

Маленькі.

Низькі.

З висувними інструментами.

Майже як футуристична побутова техніка.

Але саме це й потрібно.

Якби вони виглядали велично —

серія втратила б частину ефекту.

Розумне життя може виглядати банально.

Навіть смішно.

Цінність не повинна залежати від естетики.

Три машини проти капітана

Це прекрасний тест для глядача.

Навіть якщо ми погодилися:

екзокомпи живі,

коли Пікар у небезпеці —

чи не хочеться все одно сказати:

«Ну добре, пожертвуйте ними»?

Саме тут серія перевіряє й нас.

Моральна позиція легка,

поки не має ціни.

Чи зробив Дейта правильний вибір?

На мою думку —

так.

Але він ризикував.

Він не міг знати, що екзокомпи знайдуть альтернативу.

Він міг фактично приректи Пікара й Джорді на смерть.

Тому це не бездоганний безпечний геройський жест.

Це моральний ризик.

Саме тому сцена хороша.

Якби Пікар загинув

Уявімо інший фінал.

Екзокомпи не знаходять рішення.

Пікар гине.

Джорді гине.

Дейта зберігає три потенційно розумні машини.

Чи вважав би екіпаж його вибір правильним?

Чи визнав би він сам?

Ось де справжня складність.

Серіал трохи полегшує ситуацію щасливим фіналом.

Але питання залишається.

Це слабкість сценарію

Так.

Екзокомпи зрештою:

підтверджують розумність;

рятують людей;

один героїчно жертвує собою.

Тобто Дейта виявляється максимально правим.

Було б ще сильніше, якби істина залишилася трохи більш невизначеною.

Бо моральні рішення часто треба приймати без фінального доказу.

А тут Всесвіт фактично видає Дейті сертифікат:

«Так, ти мав рацію».

Але для емоційної арки це працює

Глядач отримує катарсис.

Машини, яких хотіли використати як бомби, самі вирішують допомогти.

Одна приносить жертву.

Фарралон визнає нову реальність.

Пікар розуміє Дейту.

Усе замикається дуже чисто.

Можливо, трохи надто чисто.

Але красиво.

Дейта й моральна автономія

Епізод важливий ще й тому, що показує:

Дейта вже далеко не просто виконує правила.

У ранніх сезонах його часто представляли як істоту, яка прагне зрозуміти людську поведінку.

Тут він створює власну моральну позицію.

Вона базується на досвіді.

На аналогії.

На принципі.

І він готовий відповідати за наслідки.

Це величезний крок.

Це й є особистість

Не лише свідомість.

А здатність сказати:

«Я вважаю цей наказ неправильним. І не виконаю його».

Звичайно, у військовій структурі це дуже складно.

Але без можливості моральної відмови офіцер перетворюється на інструмент.

Дейта доводить, що він не інструмент.

І робить це, захищаючи інших можливих «інструментів».

Пікар може пишатися

Навіть якщо ситуація була небезпечною.

Бо саме Пікар роками вчив екіпаж:

принципи важливі.

Не лише тоді, коли вони зручні.

І тепер один із його офіцерів застосував цей урок буквально.

Проти наказу старшого офіцера.

Для командира це, мабуть, одночасно:

дуже приємно;

дуже дратує.

Фарралон і відповідальність творця

Є ще одна цікава тема.

Якщо ти створюєш штучну систему, яка несподівано стає самосвідомою —

що ти їй винен?

Фарралон створила екзокомпів як інструменти.

Не планувала створити новий вид.

Але намір не скасовує результат.

Якщо життя виникло —

тепер вона має моральну відповідальність.

Це майже історія про батьківство через інженерію.

Створив.

А тепер система має власні бажання.

Вітаємо.

Контроль закінчується там, де починається особистість

Це дуже важлива тема для штучного життя.

Творець може мати права на продукт.

Але чи має творець права на особистість?

Сун створив Дейту.

Чи означає це, що він «володіє» Дейтою?

Очевидно, ні.

Так само Фарралон може бути авторкою технології екзокомпів.

Але якщо вони стали суб’єктами —

вони вже не її власність.

Технічний прогрес створює моральні зобов’язання

І це дуже «Star Trek».

Наука не нейтральна в соціальному сенсі.

Нові відкриття змінюють:

право;

етику;

політику;

саме визначення особистості.

Створити штучний розум —

це не просто інженерний успіх.

Це створити когось, перед ким тепер маєш обов’язки.

Як серія вписується в шостий сезон

Після «A Fistful of Datas» зміна тону значна.

Попередній епізод:

ковбой Ворф;

армія Дейтів;

голопалубний вестерн.

Тепер:

права штучного життя.

А далі сезон продовжить рухатися в ще серйозніші теми.

Це ще один доказ зрілості TNG.

Той самий персонаж Дейта може:

один тиждень бути ковбойським жартом;

наступний —

центром етичної дискусії про природу життя.

І обидва варіанти працюють.

Від комедії до філософії за сім днів

Саме в цьому була сила старого епізодичного телебачення.

Серіал не повинен був мати один тон протягом сезону.

Можна було експериментувати.

Комедія.

Хорор.

Моральна драма.

Політичний трилер.

Особиста трагедія.

Усе в межах одного корабля.

Екзокомпи повернуться

Хоча в самому TNG вони більше не стають великою темою, концепція не зникає з франшизи.

Найвідоміше майбутнє використання прийде значно пізніше в Star Trek: Lower Decks, де екзокомп Пінат Гампер стане повноцінним персонажем.

Це майже ретроспективне підтвердження того, що інтуїція Дейти була правильною.

Але навіть без пізнішого канону ця серія працює самостійно.

Чи є екзокомпи «дітьми» Дейти?

Не буквально.

Але тематично —

трохи.

Дейта бачить у них можливість нового штучного життя.

І стає для них першим захисником.

Так само як Пікар колись став захисником для нього.

Це майже моральна спадковість.

Сун створив Дейту.

Пікар допоміг суспільству визнати його.

Дейта допомагає визнати наступну форму штучного життя.

Це дуже красива лінія розвитку

Особливо якщо дивитися серіал послідовно.

Дейта не просто «хоче бути людиною».

Він поступово стає носієм найкращих людських цінностей.

Не тому, що біологічно змінюється.

А тому, що вчиться:

співчуттю;

відповідальності;

моральній сміливості;

захисту слабших.

Можливо, це набагато важливіше за емоції.

Іноді Дейта людяніший за людей

Це постійний парадокс персонажа.

Він каже:

«Я не маю емоцій».

А потім робить вчинок, який виглядає глибоко моральним.

Люди можуть діяти з:

користі;

страху;

егоїзму;

симпатії.

Дейта часто діє з принципу.

І це іноді робить його етично чистішим.

Але він теж може помилятися

І це важливо.

Серія не повинна перетворювати його на моральний компас без похибок.

Його висновок щодо екзокомпів базується на неповних даних.

Він робить інтерпретацію.

Ризикує.

Може помилитися.

Саме можливість помилки робить його рішення справжнім.

Автомат, тварина чи особистість?

Епізод фактично показує три рівні.

Інструмент:

виконує команду.

Тварина:

може мати інстинкт самозбереження.

Особистість:

може оцінити ризик і добровільно пожертвувати собою.

Екзокомпи проходять шлях через усі ці категорії в очах екіпажу.

Спочатку:

інструмент.

Потім:

можливо, щось живе.

Наприкінці:

моральні агенти.

Це дуже чиста драматична структура.

Жертва третього екзокомпа — кульмінація

Без неї аргумент серії був би слабшим.

Саме добровільна смерть показує:

екзокомп не просто виконує програму самозбереження.

Він здатний поставити інше життя вище за власне.

Чи означає це обов’язково свідомість?

Філософ може сперечатися.

Але для Пікара й Дейти цього достатньо.

Чи справедливо використовувати самопожертву як критерій розумності?

Не зовсім.

Біологічні системи теж можуть демонструвати альтруїстичну поведінку без людської самосвідомості.

Комахи.

Соціальні тварини.

Колективні організми.

Тому науково аргумент не абсолютний.

Але драматично він ефективний.

І сам сценарист визнавав, що провести чітку межу між складною адаптивною поведінкою та інтелектом дуже непросто.

У цьому й полягає справжня тема

Не в тому, щоб дати остаточне визначення життя.

А в тому, щоб показати складність визначення.

Науковець може створити критерії.

Філософ — інші.

Юрист — ще інші.

Але коли перед тобою конкретна істота, яку зараз збираються знищити,

час для абстракцій закінчується.

Потрібно вирішувати.

Мораль іноді працює під невизначеністю

Ми не завжди знаємо все.

Але відповідальність не зникає.

Саме це робить рішення Дейти сильним.

Він не має математичного доказу.

Він має достатньо ознак.

І моральне переконання:

ризик помилково вбити особистість гірший, ніж ризик помилково захистити машину.

Це дуже потужний принцип.

Найкраща сцена епізоду

Безумовно —

момент блокування транспортера.

Бо саме там філософія стає дією.

До цього Дейта говорить.

Аналізує.

Сперечається.

Там він ставить під загрозу власну кар’єру й життя друзів.

Ось тоді стає зрозуміло:

для нього це не інтелектуальна вправа.

Він справді вірить у права екзокомпів.

Друга найкраща сцена

Розмова Пікара й Дейти після порятунку.

Без великої музики.

Без пафосу.

Дейта пояснює.

Пікар розуміє.

І вся історія «The Measure of a Man» раптом отримує продовження через кілька сезонів.

Такі моменти роблять довгий серіал винагороджувальним.

Найслабше місце

Фонтан частинок як технологія.

Він потрібен для сюжету.

Але сам по собі не дуже цікавий.

Багато технічних діалогів.

Багато пояснень.

Місцями епізод може здатися сухим.

Особливо поруч із яскравішими серіями сезону.

Але центральна тема компенсує це.

Друга слабкість

Екзокомпи дуже швидко переходять від:

«можливо, несправна машина»

до:

«героїчно жертвують собою».

Хотілося б трохи більше проміжних доказів їхньої індивідуальності.

Наприклад:

різні поведінкові моделі;

вибір між завданнями;

спілкування між собою;

ознаки пам’яті.

Це зробило б відкриття ще переконливішим.

Але мінімалізм теж має силу

Бо глядач так само, як екіпаж, не може легко «прочитати» екзокомпа.

Ми змушені судити без людської міміки.

Це робить моральну дилему чистішою.

Підсумок

«Особливості життя» — не найефектніша серія шостого сезону «Зоряного шляху: Наступне покоління».

Тут немає масштабної битви.

Немає знаменитого лиходія.

Немає великого політичного конфлікту.

Немає подорожі в часі.

Немає Борґів.

Навіть голопалуба цього разу поводиться пристойно.

Є маленькі ремонтні машини.

І цього достатньо, щоб поставити одне з центральних питань усього «Star Trek»:

кого ми визнаємо особистістю?

Спочатку відповідь здається очевидною.

Екзокомп —

інструмент.

Його створили для ремонту.

Він не говорить.

Не має обличчя.

Не схожий на людину.

Не демонструє знайомих емоцій.

Отже —

машина.

А потім машина відмовляється йти туди, де загине.

Навчається.

Змінює власні схеми.

Розпізнає обман.

Створює альтернативний план.

І зрештою один із екзокомпів добровільно жертвує собою, щоб інші могли вижити.

У який момент «воно» стає «він»?

Саме це питання ставить Дейта.

І не випадково саме він.

Бо кілька років тому інші люди дивилися на нього й питали те саме.

Машина?

Власність?

Обладнання?

Чи особистість?

Тоді Пікар став його голосом.

Тепер Дейта робить те саме для іншої форми штучного життя.

І саме це робить епізод важливішим, ніж здається.

Розвиток Дейти полягає не лише в тому, що він краще розуміє гумор чи мистецтво.

Він засвоює моральний принцип.

А потім застосовує його тоді, коли це боляче.

Навіть якщо під загрозою життя Пікара.

Це справжня перевірка.

Бо принцип, який діє лише тоді, коли нічого не коштує, — не дуже сильний принцип.

Дейта готовий ризикувати.

І Пікар зрештою це розуміє.

Особливо красиво, що екзокомпи не просто відмовляються помирати.

Вони допомагають.

Знаходять інший шлях.

І один із них все одно приносить себе в жертву.

Але тепер різниця фундаментальна.

Його не використали.

Він обрав.

Саме свобода вибору перетворює витратний матеріал на морального суб’єкта.

І, можливо, саме це є найкращою відповіддю серії на питання про життя.

Життя — це не просто здатність функціонувати.

Не просто уникати смерті.

Не просто адаптуватися.

Можливо, одна з його найважливіших ознак —

здатність сказати:

«Я хочу жити».

А потім, коли це справді необхідно:

«Але я сам вирішу, за що готовий померти».

У цьому сенсі маленький екзокомп виявляється набагато більшим персонажем, ніж здається.

І Дейта, який колись сам потребував захисника, нарешті стає захисником для когось іншого.

Мабуть, саме тому фінальна оцінка Пікара така влучна.

Дейта все життя хоче зрозуміти, що означає бути людиною.

І саме в той момент, коли він захищає істот, зовсім не схожих на людей, він робить один із найбільш людяних вчинків у всьому серіалі.

Ця серія особливо важлива як тематичне продовження «The Measure of a Man»: сам Дейта прямо пояснює Пікару, що колись капітан захищав його статус як живої істоти, і тепер він не міг залишити екзокомпів без такого самого захисника. Сценарист Нарен Шанкар при цьому свідомо намагався не робити екзокомпів «милими роботами», щоб глядач оцінював їх не за зовнішньою симпатичністю, а за поведінкою та моральним принципом. memory-alpha.fandom.com