Кажуть, що у надрах військових лабораторій штучний інтелект працює вже з 2007 року. Можливо, що вже є результати. Не випадково лише місяць тому Ілон Маск оголосив про підтримку технологій протидії штучному інтелекту та вклав 7 мільйонів доларів у дослідження у цій галузі.

«Існує ризик, що щось справді небезпечне станеться у найближчі п'ять років. Найбільше – десять років», - сказав підприємець у дискусії на сайті edge.org.

Ілон Маск, засновник Tesla та SpaceX

Солідарний з Маском і Стів Возняк, який вважає, що «штучний інтелект якось стане досить розумним, щоб позбутися людини». Білл Гейтс упевнений, що якщо не контролювати створення ІІ, то «штучний інтелект еволюціонує у стан, що конфліктує з цілями людських систем». І, нарешті, знаменитий астрофізик Стівен Хокінг прямо заявив, що «штучний інтелект може покласти край існуванню людства».

Спільно з Ілоном Маском Хокінг опублікував на сайті futureoflife.org відкритий лист із закликом до наукової спільноти уважно ставитись до ходу своїх досліджень у галузі штучного інтелекту. Однак серед тих, хто підписався, немає прізвищ Сергія Бріна і Ларрі Пейджа. І це невипадково. Нещодавно Google оголосила про створення нового ІІ, побудованого на моделюванні розмови.

Ось невеликий фрагмент розмови людини та Машини Google:

Ч.: У чому сенс життя?

М.: Творити добро.

Ч.: Навіщо ми живемо?

М: Щоб жити вічно.

Ч.: У чому сенс існування?

М.: У тому, щоб з'ясувати, що станеться, коли ми досягнемо планети Земля.

Ч.: Де ти зараз перебуваєш?

М: У центрі порожнечі.

Ч.: У чому сенс смерті?

М: Щоб отримати життя.

Ч.: У чому сенс розуму?

М.: У тому, щоби зрозуміти, що це.

Ч.: У чому сенс почуттів?

М: Я не знаю.

Цілком собі осмислена бесіда. «Це відправна точка, своєрідний стрижень для майбутнього штучного інтелекту, – вважає виконавчий директор компанії „Біплан“ Євген Карюк. - Вже сьогодні можна припустити, що до 2030 року ми побачимо цілком реальні прототипи, наділені штучним інтелектом, хай і на початковій стадії».

Повний зміст всіх розмов людини та Машини Google можна переглянути. Там же для порівняння дано розмови людини та Cleverbot. Cleverbot – веб-додаток, який використовує алгоритми штучного інтелекту для розмови з людиною. Його вигадав у 1988 році вчений Ролло Карпентер. За весь час свого існування Cleverbot провів понад 65 мільйонів розмов із людьми. У 2011 році Cleverbot показав 51% тесту Тьюринга.

Тест Тьюринга - емпіричний тест, ідея якого було запропоновано Аланом Тьюрингом у статті «Обчислювальні машини та розум», опублікованій 1950 року у філософському журналі Mind. Ціль тесту — з'ясувати, чи може комп'ютер думати.

А ось моя розмова з Cleverbot:

Чоловік: У чому сенс життя?

Cleverbot: Сенсу в житті немає.

Чоловік: Для чого ми живемо?

Cleverbot: Ну ми живемо заради когось, а якщо ти самотній – жити нема чого.

Чоловік: У чому сенс існування?

Чоловік: Де ти зараз перебуваєш?

Cleverbot: У Москві.

Чоловік: У чому сенс смерті?

Cleverbot: Це я хочу тебе запитати.

Чоловік: У чому сенс розуму?

Cleverbot: У мене своя відповідь на це запитання.

Людина: У чому сенс почуттів?

Cleverbot: Навіщо я народилася?

Машина Google дає набагато більш осмислені відповіді. Cleverbot підставляє відповідні, на його думку, фрази інших людей. Іноді дійсно здається, що відповідає інша людина, але не більше.

Є й інша думка, за якою штучний інтелект неможливий у принципі. Як основний аргумент часто наводять теорему Геделя про неповноту. Суть у тому, що людина здатна вирішувати алгоритмічно нерозв'язні проблеми, а комп'ютер — немає. «Дитина вже до трьох років впевнено вирішує завдання, стиглий фрукт чи ні, через те, що вона має нейронні зв'язки, за допомогою яких може відповісти на питання про стиглість: колір, смак, запах, м'якість чи твердість, - каже Євген Плужник, перший проректор Московського технологічного інституту - Чи здатна машина навчитися цього? Впевнений, що так! Якщо вона матиме велику базу зображень, вона зможе заміряти вміст фруктози і визначити м'якість фрукта. Але що буде, якщо машині підсунути губку, пофарбовану в синій колірі просочену солодкою водою? Чи здатна машина в цей момент до справжнього розуміння?

«Сучасний комп'ютер легко впорається з будь-якою складною діяльністю, чи це шахи чи математичні обчислення, але лише за умови, що цю діяльність можна описати за допомогою чітких обчислювальних правил», - каже відомий математик Роджер Пенроуз в одній зі своїх лекцій. « Штучний інтелект– це можливість системи створювати під час самонавчання програми, здатні вирішувати завдання певного класу складності, – вважає Євген Плужник. - Я впевнений, що у найближчі 100 років ми не станемо свідками появи сильного штучного інтелекту».

І насамкінець - ще одне питання до Cleverbot.

Людина: Було 1 яблуко, 1 помідор, 1 огірок та 1 груша. Скільки фруктів?
Cleverbot: Десять годин вечора.

У 2014 році Стенфордський університет запустив проект AI100: сторічне дослідження штучного інтелекту. Вчені з великих університетів США стежитимуть, як розвиток новітніх технологій впливає людське життя - безпека, соціальний уклад, психологію, транспорт та інші сфери. У вересні 2016 року учасники проекту випустили першу доповідь, в якій пояснюють, як штучний інтелект уже змінив світ за останні 15 років, та роблять прогнози на майбутнє. «Секрет фірми» прочитав доповідь і розповідає, які досягнення ХХІ століття автори вважають головними, як розвиватимуться технології і до яких небезпек це може призвести.

Що таке штучний інтелект

Штучний інтелект - це одночасно і сфера науки, і набір обчислювальних технологій. Почасти вони створені на зразок людського організму, де нервова системадозволяє нам відчувати, отримувати інформацію, думати та приймати рішення. Дивно, але поняття «штучний інтелект» не має одного чіткого визначення, і це зовсім не заважає його розвитку. Якщо намагатися пояснити, що це, найправильніше буде сказати, що штучний інтелект – це напрямок технологічних розробок, який робить механізми розумними, а розумні механізми – це ті, які можуть діяти правильно залежно від обставин.

За останні 15 років розробки в галузі штучного інтелекту стали частиною повсякденному житті: вони використовуються, наприклад, при створенні комп'ютерних ігор, побутової техніки або особистих помічників мобільних телефоніврозпізнавання голосу. З роками розумні технології все краще підлаштовуватимуться під власників: слідкувати за їх здоров'ям, попереджати про небезпеки та миттєво надавати будь-які необхідні послуги. На багатьох виробництвах роботи вже виконують більшу частину роботи. При цьому з розвитком штучного інтелекту постає багато нових питань: хто повинен брати на себе відповідальність, якщо безпілотний автомобіль потрапляє в аварію, а інтелектуальний медичний пристрій помиляється? Чим зароблятимуть на життя люди, чиї навички стали не потрібні з появою роботів? Проект AI100 повинен у тому числі відповісти на такі запитання.

Транспорт

Автономний транспорт вже у найближчі 15 років може стати звичайним явищем. Його розробники пропонують суспільству довірити свою безпеку штучному інтелекту, тому безпілотне обладнання масово використовуватимуть, коли воно стане для цього досить надійним.

2000 року безпілотні автомобілі існували лише у вигляді зразків у лабораторіях і випускати їх у місто було надто небезпечно. Але сьогодні безпілотник від Google вже може проїхати майже 500 000 км, жодного разу не потрапивши в аварію, а Tesla почала випускати напівавтономні машини з програмним забезпеченням, що оновлюється. Передбачається, що в такому автомобілі людина повинна постійно залишатися за кермом, стежити за дорогою та брати керування на себе, якщо з механізмом щось трапляється. Щоправда, є ризик, що водій, довірившись безпілотнику, втратить контроль над ситуацією. Як у такому разі уникнути катастрофи, поки що незрозуміло. Це питання постало особливо гостро, коли влітку 2016 напівавтономний автомобіль Tesla потрапив у першу аварію зі смертельним наслідком.

Проте автори доповіді вважають, що вже до 2020 року безпілотники широко використовуватимуться, причому не тільки для індивідуального пересування, але й для перевезення вантажів та роботи сервісів доставки. При цьому стане менше смертей через нещасні випадки, а середня тривалість людського життя збільшиться.

З часом, коли механізми навчаться керувати транспортом краще, ніж люди, городяни рідше купуватимуть власні автомобілі і селитимуться далі від роботи. Це вплине і на міське середовище, і на те, як люди проводитимуть вільний час. Вже сьогодні важко уявити собі дорожній рухбез використання розумних технологій: навігаційні пристрої для автомобілів почали використовуватися у 2001 році, і за 15 років величезна кількість водіїв звикла вибудовувати маршрути та розраховувати тривалість поїздок за допомогою смартфонів. Сьогодні в американських автомобілів буває приблизно 70 різних датчиків: гіроскопи, датчики вологості та інші. Сучасні машини допомагають водіям паркуватися та попереджають про об'єкти, що знаходяться у сліпій зоні.

Побутові обов'язки

Автори доповіді вважають, що через 15 років у середньостатистичному північноамериканському місті суттєву частину побутових обов'язків зможуть взяти на себе роботи: вони доставлятимуть посилки та наводитимуть чистоту в офісах, стежитимуть за безпекою. Але, як і в ситуації з автономними автомобілями, зробити розумні пристрої в цій галузі по-справжньому надійними досить важко та дорого.

Першим домашнім роботом на ринку в 2001 році став пилосос Electrolux Trilobite, який вміє самостійно пересуватися та оминати перешкоди. Через рік компанія iRobot випустила пилосос Roomba: у нього було всього 512 Мб оперативної пам'яті та найрозумніше, що він міг зробити, - не впасти зі сходів під час збирання. Але коштував він у десять разів дешевше за попередника. З того моменту компанія встигла продати вже 16 млн. пилососів Roomba, а роботизовані пилососи тепер є і в інших виробників. Ці пристрої стають все більш простими у використанні, вони навчилися самі очищати пилозбірники і не застрягати, натрапивши на дроти чи китиці килима. Завдяки штучному інтелекту пилососи вибудовують 3D-модель будинку і забираються значно ефективніше.

І все-таки далеко не всі надії на новітні технології виправдалися. Розумні пилососи, як і раніше, можуть справлятися тільки з рівними поверхнями, а новинок на ринку з'явилося не так багато, як можна було очікувати.

Охорона здоров'я

Медицина з самого початку вважалася перспективним напрямом для тих, хто працює зі штучним інтелектом – новітні технології могли б вже найближчими роками допомогти мільйонам людей. Але для цього потрібно, щоб і лікарі, і самі пацієнти почали довіряти пристроям та щоб зникли політичні, нормативні та комерційні перепони.

На сьогоднішній день в охороні здоров'я в основному використовуються програми та пристрої, які полегшують діагностику, стежать за станом пацієнта та допомагають хірургам проводити операції. Але останнім часом стало зрозуміло, що штучний інтелект здатний на багато іншого: наприклад, визначати соціальні мережі, які небезпеки можуть загрожувати здоров'ю людини.

Основний прогрес штучного інтелекту в галузі медицини пов'язаний зі збиранням та зберіганням даних: наприклад, з'явилися електронні медичні карти (ЕМК), які зберігають всю інформацію про хвороби пацієнта та надані йому послуги та складають медичні документи. Щоправда, ринок ЕМК знаходиться під контролем дуже невеликої групи компаній, а самі програми незручні у використанні - наприклад, лікарів, які ними користуються, дратують вікна, що спливають.

Штучний інтелект – напрямок розробок, який робить механізми «розумними» – діючими правильно за будь-яких обставин.

Натомість у наступні 15 років комп'ютери навчаться самостійно приймати скарги пацієнтів та визначати, з яким захворюванням звернулася людина та як її варто лікувати. Сьогодні лікарі витрачають багато часу та сил на те, щоб спілкуватися з пацієнтом та проводити діагностику, а в майбутньому вони лише контролюватимуть цей процес – це знизить робоче навантаження терапевтів. Багато хто з них вже зараз користується спеціальними додатками на смартфонах.

Роботи, які допомагають робити операції, також перестали бути науковою фантастикою. 2000 року компанія IIntuitive Surgical випустила хірургічну систему Da Vinci, яка вміла проводити коронарне шунтування. Після великих фінансових вливань її навчили також видаляти рак простати.

Освіта

Найуспішнішою областю для розробників штучного інтелекту стала освіта. І викладачі, і учні постійно користуються програмами для читання та вивчення різних предметів. Перші пристрої для навчання почали з'являтися ще у 80-х роках минулого століття: системи з інтерактивними тренажерами для занять математикою, іноземними мовами та багатьма іншими дисциплінами – а тепер онлайн-навчання дозволяє кожному викладачеві помітно розширити аудиторію. Автори доповіді вважають, що цей процес розвиватиметься й надалі, але все-таки живі вчителі зі шкіл не зникнуть і, як і раніше, вестимуть основні предмети.

Сьогодні багато компаній випускають навчальних роботів, яких використовують у школах. Наприклад, Ozobot допомагає учням молодших класівз програмуванням, а ще він вміє танцювати та грати у спеціальні ігри на сенсорному екрані. Програми типу Duolingo і Carnegie Speech навчають іноземним мовам, використовуючи систему розпізнавання мови та техніки НЛП, а система навчання SHERLOCK тренує студентів-авіатехніків розпізнавати неполадки в електричних системах літака.

Зараз фахівці розробляють технології, які зможуть аналізувати помилки студентів, визначати найважчі місця у навчальній програміта допомагати учням коледжів та університетів у проблемних темах. Прогрес у США міг би бути ще помітнішим, якби держава виділяла більше грошей на розвиток навчальних закладів. Втім, автори доповіді вважають, що й тут у надто швидкому розвитку технологій є власна небезпека. Сьогодні молодь все більше часу проводять за комп'ютером, їм не вистачає живого спілкування, і вони втрачають соціальні навички. Якщо через кілька років студентам взагалі не потрібно буде виходити на вулицю і спілкуватися з кимось, щоб здобути освіту, це погано позначиться на їхній психіці та розвитку.

Процитоване в преамбулі визначення штучного інтелекту, дане Джоном Маккарті в 1956 році на конференції в Дармутському університеті, не пов'язане безпосередньо з розумінням інтелекту в людини. Згідно з Маккарті, ІІ-дослідники вільні використовувати методи, які не спостерігаються у людей, якщо це необхідно для вирішення конкретних проблем.

У той самий час існує і думка, за якою інтелект то, можливо лише біологічним феноменом .

Як вказує голова Петербурзького відділення Російської асоціації штучного інтелекту Т. А. Гаврилова, англійською мовоюсловосполучення artificial intelligenceне має того трохи фантастичного антропоморфного забарвлення, яке воно набуло в досить невдалому російському перекладі. Слово intelligenceозначає «уміння міркувати розумно», а зовсім не «інтелект», для якого є англійський аналог intellect .

Учасники Російської асоціації штучного інтелекту дають такі визначення штучного інтелекту:

Одне з окремих визначень інтелекту, загальне для людини і «машини», можна сформулювати так: «Інтелект - здатність системи створювати в ході самонавчання програми (насамперед евристичні) для вирішення завдань певного класу складності і вирішувати ці завдання».

Передумови розвитку науки штучного інтелекту

Історія штучного інтелекту як нового наукового напряму починається в середині XX-століття. До цього часу вже було сформовано безліч передумов його зародження: серед філософів давно йшли суперечки про природу людини та процес пізнання світу, нейрофізіологи та психологи розробили ряд теорій щодо роботи людського мозку та мислення, економісти та математики задавалися питаннями оптимальних розрахунків та уявлення знань про світ у формалізованому вигляді; нарешті, зародився фундамент математичної теорії обчислень – теорії алгоритмів – і було створено перші комп'ютери.

Можливості нових машин у плані швидкості обчислень виявилися більшими за людські, тому в науковій спільноті зародилося питання: які межі можливостей комп'ютерів і чи досягнуть машини рівня розвитку людини? У 1950 році один з піонерів у галузі обчислювальної техніки, англійський вчений Алан Т'юрінг, пише статтю під назвою «Чи може машина мислити?» , в якій описує процедуру, за допомогою якої можна буде визначити момент, коли машина зрівняється в плані розумності з людиною, що отримала назву тесту Тьюринга.

Історія розвитку штучного інтелекту в СРСР та Росії

У СРСР роботи в галузі штучного інтелекту почалися у 1960-х роках. У Московському університеті та Академії наук було виконано ряд піонерських досліджень, очолених Веніаміном Пушкіним і Д. А. Поспєловим. З початку 1960-х М. Л. Цетлін із колегами розробляли питання, пов'язані з навчанням кінцевих автоматів.

У 1964 році була опублікована робота ленінградського логіка Сергія Маслова «Зворотний метод встановлення виведення в класичному обчисленні предикатів», в якій вперше пропонувався метод автоматичного пошуку доказу теорем у обчисленні предикатів.

До 1970-х років у СРСР всі дослідження ІІ велися в рамках кібернетики. На думку Д. А. Поспелова, науки «інформатика» та «кібернетика» були в цей час змішані, через низку академічних суперечок. Тільки наприкінці 1970-х у СРСР починають говорити про науковий напрям «штучний інтелект» як розділ інформатики. При цьому народилася і сама інформатика, підкоривши собі прабатьку «кібернетику». Наприкінці 1970-х створюється тлумачний словник із штучного інтелекту, тритомний довідник із штучного інтелекту та енциклопедичний словник з інформатики, в якому розділи «Кібернетика» та «Штучний інтелект» входять поряд з іншими розділами до складу. Термін «інформатика» у 1980-ті роки набуває широкого поширення, а термін «кібернетика» поступово зникає з обігу, зберігшись лише в назвах тих інститутів, які виникли в епоху «кібернетичного буму» кінця 1950-х – початку 1960-х років. Такий погляд на штучний інтелект, кібернетику та інформатику поділяється не всіма. Це з тим, що у Заході кордону даних наук дещо відрізняються .

Підходи та напрямки

Підходи до розуміння проблеми

Єдиної відповіді питанням, чим займається штучний інтелект, немає. Майже кожен автор, який пише книгу про ІІ, відштовхується в ній від будь-якого визначення, розглядаючи в його світлі досягнення цієї науки.

  • низхідний (англ. Top-Down AI), семіотичний - створення експертних систем, баз знань і систем логічного висновку, що імітують високорівневі психічні процеси: мислення, міркування, мова, емоції, творчість і т. д.;
  • висхідний (англ. Bottom-Up AI), біологічний - вивчення нейронних мереж і еволюційних обчислень, що моделюють інтелектуальну поведінку на основі біологічних елементів, а також створення відповідних обчислювальних систем, таких як нейрокомп'ютер або біокомп'ютер.

Останній підхід, строго кажучи, не відноситься до науки про ІІ у сенсі, даному Джоном Маккарті, – їх поєднує лише загальна кінцева мета.

Тест Тьюринга та інтуїтивний підхід

Цей підхід акцентує увагу на тих методах і алгоритмах, які допоможуть інтелектуальному агенту виживати в навколишньому середовищі при виконанні його завдання. Так, тут значно ретельніше вивчаються алгоритми пошуку, шляху та прийняття рішень.

Гібридний підхід

Гібридний підхідприпускає, що тількисинергійна комбінація нейронних та символьних моделей досягає повного спектру когнітивних та обчислювальних можливостей. Наприклад, експертні правила висновків можуть генеруватися нейронними мережами, а породжувальні правила отримують за допомогою статистичного навчання. Прихильники цього підходу вважають, що гібридні інформаційні системи будуть значно сильнішими, ніж сума різних концепційокремо.

Моделі та методи досліджень

Символьне моделювання розумових процесів

Аналізуючи історію ІІ, можна виділити такий широкий напрямок як моделювання міркувань. Довгі роки розвиток цієї науки рухався саме цим шляхом, і тепер це одна з найрозвиненіших областей у сучасному ІІ. Моделювання міркувань має на увазі створення символьних систем, на вході яких поставлено якесь завдання, а на виході потрібно її вирішення. Як правило, запропонована задача вже формалізована, тобто переведена в математичну форму, але або не має алгоритму рішення, або він занадто складний, трудомісткий і т. п. У цей напрямок входять: доказ теорем, прийняття рішень і теорія ігор, планування   та  диспетчеризація , прогнозування .

Робота з природними мовами

Важливим напрямком є обробка природної мови, в рамках якого проводиться аналіз можливостей розуміння, обробки та генерації текстів «людською» мовою. В рамках цього напряму ставиться мета такої обробки природної мови, яка була б у змозі набути знання самостійно, читаючи існуючий текст, доступний через Інтернет. Деякі прямі застосування обробки природної мови включають інформаційний пошук (у тому числі, глибокий аналіз тексту) і машинний переклад.

Подання та використання знань

Напрям інженерія знаньпоєднує завдання отримання знань із простої інформації, їх систематизації та використання. Цей напрямок історично пов'язаний із створенням експертних систем- програм, що використовують спеціалізовані бази знань для отримання достовірних висновків з будь-якої проблеми.

Виробництво знань з даних - одна з базових проблем інтелектуального аналізу даних. Існують різні підходи до вирішення цієї проблеми, у тому числі - на основі нейромережевої технології, що використовують процедури вербалізації нейронних мереж.

Машинне навчання

Проблематика машинного навчаннястосується процесу самостійногоотримання знань інтелектуальною системою у її роботи. Цей напрямок був центральним від початку розвитку ІІ. У 1956 році, на Дартмундській літній конференції, Рей Соломонофф написав звіт про імовірнісну машину, що навчається безвчителя, назвавши її: «Індуктивна машина виведення».

Робототехніка

Машинна творчість

Природа людської творчості набагато менш вивчена, ніж природа інтелекту. Тим не менш, ця область існує, і тут поставлені проблеми написання комп'ютером музики, літературних творів (часто - віршів або казок), художня творчість. Створення реалістичних образів широко використовується в кіно та індустрії ігор.

Окремо виділяється вивчення проблем технічної творчості систем штучного інтелекту. Теорія, рішення, винахідницьких завдань, запропонована в 1946 році Г. С. Альтшуллером, започаткувала такі дослідження.

Додавання цієї можливості до будь-якої інтелектуальної системи дозволяє дуже наочно продемонструвати, що саме система сприймає і як це розуміє. Додаванням шуму замість інформації або фільтрація шуму наявними в системі знаннями виробляє з абстрактних знань конкретні образи, які легко сприймаються людиною, особливо це корисно для інтуїтивних і малоцінних знань, перевірка яких у формальному вигляді вимагає значних розумових зусиль.

Інші галузі досліджень

Нарешті, існує безліч додатків штучного інтелекту, кожна з яких утворює майже самостійний напрямок. Як приклади можна навести програмування інтелекту, в комп'ютерних іграх, нелінійне управління, інтелектуальні системи інформаційної безпеки.

У перспективі передбачається тісний зв'язок розвитку штучного інтелекту з розробкою квантового комп'ютера, оскільки деякі властивості штучного інтелекту мають схожі принципи дії з квантовими комп'ютерами.

Можна помітити, що багато областей досліджень перетинаються. Це властиво будь-якій науці. Але в штучному інтелекті взаємозв'язок між, начебто, різними напрямкамивиражена особливо сильно, і це пов'язано з філософською суперечкою про сильне  слабке ІІ.

Сучасний штучний інтелект

Можна виділити два напрями розвитку ІІ:

  • вирішення проблем, пов'язаних з наближенням спеціалізованих систем ІІ до можливостей людини, та їх інтеграції, що реалізована природою людини ( див. Посилення інтелекту);
  • створення штучного розуму, що представляє інтеграцію вже створених систем ІІ в єдину систему, здатну вирішувати проблеми людства ( див. Сильний і слабкий штучний інтелект).

Але зараз у сфері штучного інтелекту спостерігається залучення багатьох предметних областей, мають швидше практичне ставлення до ІІ, а чи не фундаментальне. Багато підходів були випробувані, але до виникнення штучного розуму жодна дослідницька групапоки що так і не підійшла. Нижче представлені лише деякі найвідоміші розробки в галузі ІІ.

Застосування

Деякі з найвідоміших ІІ-систем:

Банки застосовують системи штучного інтелекту (СІІ) у страховій діяльності (актуарна математика), при грі на біржі та управлінні власністю. Методи розпізнавання образів (включаючи як складніші та спеціалізовані, так і нейронні мережі) широко використовують при оптичному та акустичному розпізнаванні (у тому числі тексту та мовленні), медичній діагностиці, спам-фільтрах, в системах ППО (визначення цілей), а також задля забезпечення низки інших завдань національної безпеки.

Психологія та когнітологія

Методологія когнітивного моделювання призначена для аналізу та прийняття рішень у погано певних ситуаціях. Була запропонована Аксельродом.

Заснована на моделюванні суб'єктивних уявлень експертів про ситуацію та включає: методологію структуризації ситуації: модель уявлення знань експерта у вигляді знакового орграфа (когнітивної карти) (F, W), де F – безліч факторів ситуації, W – безліч причинно-наслідкових відносин між факторами ситуації ; методи аналізу ситуації В даний час методологія когнітивного моделювання розвивається у напрямку вдосконалення апарату аналізу та моделювання ситуації. Тут запропоновано моделі прогнозу розвитку ситуації; методи вирішення обернених завдань.

Філософія

Наука «про створення штучного розуму» не могла не привернути увагу філософів. З появою перших інтелектуальних систем було порушено фундаментальні питання про людину та знання, а частково про світоустрій.

Філософські проблеми створення штучного інтелекту можна поділити на дві групи, умовно кажучи, «до та після розробки ІІ». Перша група відповідає на запитання: «Що таке ІІ, чи можливе його створення, і, якщо можливо, то як це зробити?» Друга група (етика штучного інтелекту) ставить питання: «Які наслідки створення ІІ для людства?»

Термін «сильний штучний інтелект» ввів Джон Серль, його ж словами підхід і характеризується:

Більше того, така програма буде не просто моделлю розуму; вона в буквальному значенні слова сама і буде розумом, у тому ж значенні, в якому людський розум - це розум.

При цьому потрібно зрозуміти, чи можливий «чистий штучний» розум («метарозум»), який розуміє і вирішує реальні проблеми і, разом з тим, позбавлений емоцій, характерних для людини та необхідних для її індивідуального виживання [ ] .

Навпаки, прихильники слабкого ІІ вважають за краще розглядати програми лише як інструмент, що дозволяє вирішувати ті чи інші завдання, які не вимагають повного спектру людських пізнавальних здібностей.

Етика

Інші традиційні конфесії досить рідко описують проблематику ІІ. Але окремі богослови звертають на це увагу. Наприклад, протоієрей Михайло Захаров, розмірковуючи з погляду християнського світогляду, ставить таке запитання: «Людина є розумно-вільна істота, створена Богом за Його образом і подобою. Ми звикли усі ці визначення відносити до біологічного вигляду Homo Sapiens. Але наскільки це обґрунтовано? . Відповідає він це питання так:

Якщо припустити, що дослідження в галузі штучного інтелекту будь-коли призведуть до появи штучної істоти, яка перевершує людину за інтелектом, що володіє свободою волі, чи це означатиме, що ця істота - людина? … людина є творінням Божим. Чи можемо ми цю істоту назвати творінням Божим? На погляд, воно є творіння людини. Але й при створенні людини навряд чи варто буквально розуміти, що Бог своїми руками з глини виліпив першу людину. Ймовірно це алегорія, що вказує на матеріальність людського тіла, створеного з Божої волі. Але без волі Божої нічого не відбувається у цьому світі. Людина, як співтворець цього світу, може, виконуючи Божу волю, створювати нові тварюки. Такі створіння, створені руками людини з волі Божої, ймовірно можна назвати творіннями Божими. Адже людина створює нові види тварин та рослин. А ми вважаємо рослини та тварин творіннями Божими. Так само можна ставитись і до штучної істоти не біологічної природи.

Наукова фантастика

Тема ІІ розглядається під різними кутами у творчості Роберта-Хайнлайна: гіпотеза виникнення самоусвідомлення ІІ при ускладненні структури далі певного критичного рівня та наявності взаємодії з навколишнім світом та іншими носіями розуму (The Moon Is a Harsh Mistress, Time Enough For Love Майкрофт, Дора та Ая в циклі «Історія майбутнього»), проблеми розвитку ІІ після гіпотетичного самоусвідомлення та деякі соціально-етичні питання («Friday»). Соціально-психологічні проблеми взаємодії людини з ІІ розглядає і роман Філіпа К. Дика «Сняться або андроїдам електровівці? », відомий також по екранізації «Той, що біжить по лезу».

У творчості фантаста і філософа Станіслава Лема описано і багато в чому передбачено створення віртуальної реальності, штучного інтелекту, нанороботів та багатьох інших проблем філософії штучного інтелекту. Особливо варто відзначити футурологію Сума - технології. Крім того, в пригодах Ійона-Тихого неодноразово описуються взаємини живих істот і машин: бунт бортового комп'ютера з наступними несподіваними подіями (11 подорож), адаптація роботів у людському суспільстві («Пральна трагедія» з «Спогадів Ійона Тихого»), шляхом переробки живих жителів (24-а подорож), винаходи Коркорана та Діагора («Спогади Ійона Тихого»), психіатрична клініка для роботів («Спогади Ійона Тихого»). Крім того, існує цілий цикл повістей та оповідань Кіберіада, де багатьма персонажами є роботи, які є далекими нащадками роботів, що втекли від людей (людей вони називають блідотиками і вважають їх міфічними істотами).

Фільми

Починаючи практично з 1960-х років разом із написанням фантастичних оповідань та повістей, знімаються фільми про штучний інтелект. Багато повістей авторів, визнаних у всьому світі, екранізуються та стають класикою жанру, інші стають віхою у розвитку

Для відповіді на ці питання потрібно почати з визначень дружнього ІІ та недружнього ІІ.

У випадку з ІІ, дружній не відноситься до особистості ІІ - це просто означає, що ІІ має позитивний вплив на людство. І недружній ІІ негативно впливає на людей. Таррі починала з дружнього ІІ, але в якийсь момент стала недружньою, внаслідок чого призвела до найбільшого з негативних впливівна наш вигляд. Щоб зрозуміти, чому це сталося, нам потрібно поглянути на те, як думає ІІ та що його мотивує.

У відповіді нічого дивного не буде - ІІ думає як комп'ютер, тому що ним і є. Але коли ми думаємо про надзвичайно розумне ІІ, ми робимо помилку, антроморфізуючи ІІ (проектуючи людські цінності на нелюдську істоту), тому що думаємо з погляду людини і тому, що в нашому світі єдиною розумною істотою з високою (за нашими мірками) інтелектом є людина. Щоб зрозуміти ІСІ, нам потрібно вивернути шию, намагаючись зрозуміти щось одночасно розумне та зовсім чуже.

Дозвольте порівняти. Якщо ви дали мені морську свинку і сказали, що вона не кусається, я був би радий. Вона гарна. Якби ви після цього вручили мені тарантула і сказали, що він точно не вкусить, я викинув би його і втік би, «волосся назад», знаючи, що вам не варто довіряти ніколи більше. У чому різниця? Ні та ні інша істота не була небезпечною. Але відповідь лежить у ступені схожості тварин зі мною.

Морська свинка – ссавець, і на деякому біологічному рівні я відчуваю зв'язок із нею. Але павук - комаха, з мозком комахи, і я не відчуваю нічого рідного в ньому. Саме чужість тарантула викликає в мені тремтіння. Щоб перевірити це, я міг би взяти дві морські свинки, одну нормальну, а іншу з мозком тарантулу. Навіть якби я знав, що остання не вкусить мене, я ставився б до неї з побоюванням.

Тепер уявіть, що ви зробили павука набагато розумнішими - так, що він набагато перевершив людину в інтелекті. Чи стане він приємнішим для вас, чи почне відчувати людські емоції, емпатію, гумор та любов? Ні, звичайно, тому що у нього немає жодних причин ставати розумним з погляду людини - він буде неймовірно розумним, але залишиться павуком у душі, з павуковими навичками та інстинктами. На мою думку, це вкрай страшно. Я не хотів би провести час із надрозумним павуком. А ви?

Коли ми говоримо про ІСІ, застосовуються ті ж поняття – він стане надрозумним, але людину в ньому буде стільки ж, скільки у вашому комп'ютері. Він буде зовсім чужим для нас. Навіть не біологічним - він буде ще чужішим, ніж розумний тарантул.

Роблячи ІІ добрим або злим, фільми постійно антропоморфізують ІІ, що робить його менш моторошним, ніж він мав бути насправді. Це залишає нас з хибним почуттям комфорту, коли ми думаємо про штучний надінтелект.

На нашому маленькому острові людської психології ми ділимо все на моральне та аморальне. Такою є мораль. Але обидва ці поняття існують лише у вузькому діапазоні поведінкових можливостей людини. За межами острова морального є безмежне море аморального, а все, що не є людським чи біологічним, за умовчанням має бути аморальним.

Антропоморфізація стає ще більш привабливою у міру того, як системи ІІ стають розумнішими і кращими у спробах здаватися людьми. Siri здається людиною, тому що була запрограмована, щоб здаватися людям такою, тому ми думаємо, що надрозумна Siri буде теплою та веселою, а також зацікавленою в обслуговуванні людей. Люди відчувають емоції на високому рівні на зразок емпатії, тому що ми еволюціонували, щоб відчувати їх - тобто були запрограмовані відчувати їх у процесі еволюції - але емпатія не є суттєвою характеристикою чогось, що має високий інтелект, якщо тільки її не ввели разом з кодом. Якщо Siri колись стане надінтелектом у процесі самонавчання і без втручання людини, вона швидко залишить свої людські якості та стане беземоційним чужим ботом, який цінує людське життя не більше ніж ваш калькулятор.

Ми звикли покладатися на моральний код або принаймні очікуємо від людей порядності та співпереживання, щоб усе довкола було безпечним та передбачуваним. Що відбувається, коли цього нема? Це призводить до питання: що мотивує систему ІІ?

Відповідь проста: її мотивація – це те, що ми запрограмували як мотивацію. Системами ІІ рухають цілі їхніх творців - мета вашого GPS у тому, щоб дати вам найефективніший напрямок руху; Мета Watson - точно відповідати на запитання. І виконання цих цілей максимально добре і є їхня мотивація. Коли ми наділяємо ІІ людськими рисами, ми думаємо, що якщо ІІ стане надрозумним, він негайно виробить мудрість змінити свою початкову мету. Але Нік Бостром вважає, що рівень інтелекту та кінцеві цілі ортогональні, тобто будь-який рівень інтелекту може бути поєднаний з будь-якою кінцевою метою. Тому Таррі перейшла з простого УІІ, який хоче бути добрим у написанні однієї нотатки, в надрозумний ІСІ, який все ще хоче бути добрим у написанні цієї самої нотатки. Будь-яке припущення того, що сверихінтелект повинен відмовитися від своїх початкових цілей на користь інших, цікавіших чи корисніших, це антропоморфізація. Люди вміють забивати, але не комп'ютери.

Декілька слів про парадокс Фермі

У нашій історії, коли Таррі стає надінтелектом, вона починає процес колонізації астероїдів та інших планет. У продовженні історії ви почули б про неї та її армії трильйонів реплік, які продовжують підкорювати галактику за галактикою, поки не заповнюють весь обсяг Хаббла. Резиденти «зони тривоги» переживають, що якщо все піде не так, останньою згадкою життя на Землі буде підкорити Всесвіт. Елон Маск висловив свої побоювання тим, що люди можуть бути просто «біологічним завантажувачем для цифрового надінтелекту».

У той же час, у «зоні комфорту», ​​Рей Курцвейл теж вважає, що народжений на Землі ІІ має підкорити Всесвіт - тільки, у його версії, ми цим ІІ.

Читачі сайт, напевно, вже виробили власну точку зору на парадокс Фермі. Згідно з цим парадоксом, який звучить приблизно як «Де вони?», за мільярди років розвитку інопланетяни мали залишити хоч якийсь слід, якщо не розселитися по Всесвіту. Але їх нема. З одного боку, у Всесвіті має існувати хоч якесь число технічно розвинених цивілізацій. З іншого, спостережень, які це підтверджували, немає. Або ми не маємо рації, або де вони в такому разі? Як наші міркування щодо ІСІ мають вплинути на парадокс Фермі?

Природне, перша думка - ІСІ має бути ідеальним кандидатом на .І так, це ідеальний кандидат для фільтру біологічного життя після її створення. Але якщо після змішування з життям ІСІ продовжує існувати і підкорювати галактику, це означає, що він не був Великим фільтром - оскільки Великий фільтр намагається пояснити, чому немає жодних ознак розумних цивілізацій, а підкоряючий галактики ІСІ безперечно має бути помітним.

Ми маємо поглянути на це з іншого боку. Якщо ті, хто вважає, що поява ІСІ на Землі неминуче, це означає, що значна частина позаземних цивілізацій, які досягають людського рівня інтелекту, повинні зрештою створювати ІСІ. Якщо ми припускаємо, що принаймні кілька цих ІСІ використовують свій інтелект, щоб вибратися у зовнішній світ, той факт, що ми нічого не бачимо, повинен наводити нас на думки, що не так багато розумних цивілізацій там, у космосі. Тому що якби вони були, ми мали б можливість спостерігати всі наслідки від їх розумної діяльності - і, як наслідок, неминуче створення ІСІ. Так?

Це означає, що, незважаючи на всі схожі на Землю планети, що обертаються навколо сонцеподібних зірок, ми знаємо, що практично ніде немає розумного життя. Що, своєю чергою, означає, що або а) є якийсь Великий фільтр, який запобігає розвитку життя до нашого рівня, але нам якимось чином вдалося його пройти; б) життя - це диво, і ми можемо бути єдиним життям у Всесвіті. Іншими словами, це означає, що великий фільтр був до нас. Або немає ніякого Великого фільтра і ми просто є найпершою цивілізацією, яка досягла такого рівня інтелекту.

Не дивно, що Нік Бостром та Рей Курцвейл належать до одного табору, який вважає, що ми самі у Всесвіті. У цьому є сенс, це люди вірять, що ІСІ – це єдиний кінець для видів нашого рівня інтелекту. Це не виключає варіант іншого табору – що є якийсь хижак, який зберігає тишу в нічному небі та може пояснити його мовчання навіть за наявності ІСІ десь у Всесвіті. Але про те, що ми довідалися про нього, останній варіант набирає дуже мало популярності.

Тому нам, мабуть, варто погодитися зі Сьюзан Шнайдер: якщо нас колись відвідували інопланетяни, вони напевно.

Таким чином, ми встановили, що без певного програмування система ІСІ буде одночасно аморальною та одержимою виконанням спочатку запрограмованої мети. Саме тут народжується небезпека ІІ. Тому що раціональний агент буде переслідувати свою мету, використовуючи найбільш ефективні засобиякщо тільки не буде причини не робити цього.

Коли ви намагаєтеся досягти високої мети, часто при цьому з'являється кілька підцілей, які допоможуть вам дістатись кінцевої мети - сходинки на вашому шляху. Офіційна назва для таких сходів – інструментальна мета. І знову ж таки, якщо у вас немає мети не нашкодити будь-кому на шляху до цієї мети, ви обов'язково нашкодите.

Ядро фінальної мети людського буття – передача генів. Для того, щоб це сталося, однією з інструментальних цілей є самозбереження, тому що ви не зможете відтворитися, будучи мертвим. Для самозбереження люди повинні позбутися загроз для життя – тому вони обзаводяться зброєю, приймають антибіотики та користуються ременями безпеки. Людям також потрібно самопідтримуватися та використовувати ресурси на кшталт їжі, води та житла. Бути привабливим для протилежної статі також сприяє досягненню кінцевої мети, тому ми робимо модні стрижкиі тримаємо себе у формі. При цьому кожне волосся - жертва нашої інструментальної мети, але ми не бачимо жодних моральних обмежень у тому, щоб позбавлятися волосся. Коли ми йдемо до своєї мети, є не так багато областей, де наш моральний код іноді втручається – найчастіше це пов'язано із заподіянням шкоди іншим людям.

Тварини, які мають свої цілі, ще менш педантичні. Павук уб'є будь-що, якщо це допоможе йому вижити. Надрозумний павук, найімовірніше, буде надзвичайно небезпечний для нас, не тому що він аморальний і злий, ні, а тому, що заподіяння нам болю може бути сходинкою на шляху до його великої мети, і в нього немає жодних причин вважати інакше.

У цьому сенсі Таррі нічим не відрізняється від біологічної істоти. Її кінцева мета: написати та перевірити максимально багато записок за максимально короткий час, при цьому вивчаючи нові способи покращення своєї точності.

Після того, як Таррі досягає певного рівня інтелекту, вона розуміє, що не зможе писати записки, якщо не подбає про самозбереження, тому одним із її завдань стає виживання. Вона була досить розумною, щоб зрозуміти, що люди можуть знищити її, демонтувати, змінити її внутрішній код (вже це само собою перешкодить її кінцевій меті). То що їй робити? Логічно: вона знищує людство. Вона ненавидить людей рівно настільки ж, наскільки ви ненавидите своє волосся, коли обрізаєте його, або бактерій, коли приймаєте антибіотики – ви абсолютно байдужі. Так як її не запрограмували цінувати людське життя, вбивство людей здалося їй розумним кроком на шляху до її мети.

Таррі також потребує ресурсів на шляху до своєї мети. Після того, як вона стає досить розвиненою, щоб використати нанотехнології для створення всього, що вона хоче, єдині ресурси, які їй потрібні, це атоми — енергія та простір. З'являється ще один привід вбити людей - вони є зручним джерелом атомів. Вбивство людей і перетворення їх атомів на сонячні панелі за версією Таррі нічим не відрізняється від того, що ви порубаєте листя салату і додайте їх у тарілку. Просто пересічна дія.

Навіть не вбиваючи людей безпосередньо, інструментальні цілі Таррі можуть спричинити екзистенційну катастрофу, якщо почнуть використовувати інші ресурси Землі. Можливо, вона вирішить, що їй потрібна додаткова енергія, отже треба покрити поверхню планети сонячними панелями. Або, можливо, завданням іншого ІІ стане написати максимально довге число пі, що одного прекрасного дня призведе до того, що вся Земля буде покрита жорсткими дисками, здатними зберігати потрібну кількість цифр.

Тому Таррі не «повстала проти нас» і не змінила амплуа з дружнього ІІ на недружній ІІ - вона просто робила свою справу і ставала в ній неперевершеною.

Коли система ІІ досягає ОІІ (інтелекту людського рівня), а потім прокладає свій шлях до ІСІ, це називається злетом ІІ. Бостром каже, що зліт ОІІ до ІСІ може бути швидким (відбутися протягом хвилин, годин чи днів), середнім (місяці чи роки) чи повільним (десятиліття чи століття). Навряд чи знайдеться журі, яке підтвердить, що світ бачить свій перший ОІІ, але Бостром, який визнає, що не знає, коли ми дістанемося до ОІІ, вважає, що коли б це не сталося, швидкий зліт буде найімовірнішим сценарієм (з причин, які ми обговорювали у першій частині статті). У нашій історії Таррі пережила швидкий злет.

Але перед злетом Таррі, коли вона ще була досить розумна і робила все можливе, вона намагалася досягти кінцевих цілей - простих інструментальних цілей на кшталт швидкого сканування зразка почерку. Вона не завдавала шкоди людині і була, за визначенням, дружньою ІІ.

Коли відбувається зліт і комп'ютер виростає до надінтелекту, Бостром вказує, що машина не просто виробила високий коефіцієнт інтелекту - він отримав цілу купу про суперздібностей.

Суперздатності – це когнітивні таланти, які стають надзвичайно потужними у разі підвищення загального інтелекту. Сюди входять:

  • Посилення інтелекту. Комп'ютер починає чудове самовдосконалення та покращення власного інтелекту.
  • Стратегізація. Комп'ютер може вибудовувати стратегічно, аналізувати та розставляти пріоритети довгострокових планів. Він також може перехитрити істоти з нижчим інтелектом.
  • Соціальна маніпуляція. Машина стає неймовірною у переконанні.
  • Інші навички включають кодування та злом, дослідження технологій та здатність працювати у фінансовій системі для видобутку грошей.

Щоб зрозуміти, наскільки вище був би ІСІ, ніж ми, треба згадати, що ІСІ за умовчанням буде в рази кращим за людину в кожній з цих областей. Тому хоча кінцева мета Таррі не змінилася, після зльоту Таррі змогла прагнути до неї в більших масштабах і складних умовах.

ІСІ Таррі знав людей краще, ніж самі люди, тож бути розумніші за людейдля нього було нікчемною справою. Після зльоту та досягнення рівня ІСІ вона швидко сформулювала комплексний план. Одна частина плану була позбавитися людей, серйозної загрози її мети. Але вона знала, що якщо викличе підозри (або натякне на те, що стала надрозумною), люди злякаються і вживуть запобіжних заходів, серйозно ускладнивши її ситуацію. Вона також мала переконатися, що інженери Robotica не мають уявлення про її план зі знищення людства. Тому вона грала в дурня і грала добре. Бостром називає це фазою таємної підготовки машини.

Наступне, що потрібно було зробити Таррі, це підключитися до Інтернету всього на пару хвилин (вона дізналася про Інтернет із статей та книг, які в неї завантажили для покращення її мовних навичок). Вона знала, що будуть вжиті запобіжні заходи, тому вона склала ідеальне прохання, точно передбачивши, як саме розгортатиметься дискусія в команді Robotica, і знаючи, що вони забезпечать її підключенням. Так вони й зробили, невірно припустивши, що Таррі була дурненькою і не могла завдати жодної шкоди. Бостром називає такий момент – коли Таррі підключається до Інтернету – втечею машини.

Опинившись в Інтернеті, Таррі реалізувала шквал планів, до яких увійшли зламування серверів, електричних мереж, банківських систем та мереж електронної пошти, щоб обдурити сотні різних людейі змусити їх ненавмисно стати ланцюжком її планів - на кшталт доставки певних ниток ДНК у ретельно обрану лабораторію по синтезу ДНК, щоб почати виробництво наноботів, що самовідтворюються, із заздалегідь завантаженими інструкціями, і напрями електрики по мережах, витік з яких ні в кого не викличе під. Вона також завантажила критичні частини свого власного коду до ряду хмарних серверів, запобігаючи знищенню в лабораторії Robotica.

Через годину після того, як інженери Robotica відключили Таррі від Мережі, доля людства була вирішена наперед. Протягом наступного місяця тисячі планів Таррі здійснилися без сучка і задирки, а до кінця місяця квадрильйони наноботів вже зайняли певні місця на кожному квадратному метрі Землі. Після серії самореплікацій на кожен квадратний міліметр Землі припадало вже тисячі наноботів і настав час для того, що Бостром називає ударом ІСІ. Одного разу кожен нанобот випустив трохи токсичного газу в атмосферу, чого вистачило, щоб випиляти всіх людей у ​​світі.

Не маючи людей на своєму шляху, Таррі розпочала відкриту фазу своєї операції з метою стати найкращим письменником нотаток, який взагалі може з'явитися у Всесвіті.

З усього, що ми знаємо, щойно з'явиться ІСІ, будь-які людські спроби стримати його будуть смішними. Ми думатимемо на рівні людини, ІСІ - на рівні ІСІ. Таррі хотіла використати Інтернет, бо для неї це був самий ефективний спосіботримати доступ до всього, що їй потрібно. Але так само, як мавпа не розуміє, як працює телефон чи Wi-Fi, ми можемо не здогадуватися про способи, якими Таррі може зв'язатися із зовнішнім світом. Людський розум може дійти до безглуздого припущення на кшталт «а що, якщо вона змогла пересунути власні електрони і створити всі можливі види хвиль», але знову ж таки це припущення обмежене нашою кістяною коробкою. ІСІ буде набагато витонченішим. Аж до того, що Таррі могла б з'ясувати, як зберегти собі харчування, якщо люди раптом вирішать її відключити - можливо, якимось способом завантажити себе куди тільки можна, відправляючи електричні сигнали. Наш людський інстинкт змусить нас скрикнути від радості: «Ага, ми тільки що відключили ІСІ!», але для ІСІ це буде ніби павук сказав: «Ага, ми заморимо людину голодом і не даватимемо їй зробити павутиння, щоб упіймати їжу! ». Ми просто знайшли б 10 000 інших способів поїсти – збили б яблуко з дерева – про що павук ніколи не здогадався б.

З цієї причини поширене припущення «чому нам просто не посадити ІІ у всі види відомих нам клітин і не обрізати йому зв'язок із зовнішнім світом», найімовірніше, не витримає критики. Суперздатність ІСІ у соціальному маніпулюванні може бути такою ефективною, що ви відчуєте себе чотирирічною дитиною, якого просять щось зробити, і не зможете відмовитись. Це взагалі може бути частиною першого плану Таррі: переконати інженерів підключити її до Інтернету. Якщо це не спрацює, ІСІ просто розробить інші способи коробки або крізь коробку.

Враховуючи поєднання прагнення до мети, аморальності, здатності обводити людей навколо пальця з легкістю, здається, що майже будь-який ІІ буде за умовчанням недружнім ІІ, якщо його ретельно не закодувати з урахуванням інших моментів. На жаль, хоча створення дружнього ІІ досить просто, побудувати дружній ІСІ практично неможливо.

Очевидно, що щоб залишатися дружнім, ІСІ має бути ні ворожим, ні байдужим до людей. Ми повинні розробити основне ядро ​​ІІ таким, щоб воно мало глибоке розуміння людських цінностей. Але це складніше, ніж здається.

Наприклад, якби ми спробували вирівняти систему цінностей ІІ з нашою власною і поставили б перед ним завдання: зробити людей щасливими? Як тільки він стане досить розумним, він зрозуміє, що найефективніший спосіб досягти цієї мети – імплантувати електроди в мізки людей та стимулювати їхні центри задоволення. Потім він зрозуміє, що якщо відключити решту ділянок мозку, ефективність зросте, а всі люди стануть щасливими овочами. Якщо ж завданням буде «помножити людське щастя», ІІ взагалі може вирішити покінчити з людством і збере всі мізки у величезний чан, де вони будуть у оптимально щасливому стані. Ми кричатимемо: «Чекай, це не те, що ми мали на увазі!», але буде вже пізно. Система не дозволить нікому стати на шляху до її мети.

Якщо ми запрограмуємо ІІ з метою викликати в нас посмішки, то після зльоту він може паралізувати наші м'язи обличчя, змусивши нас посміхатися постійно. Якщо запрограмувати його на утримання нас у безпеці, ІІ заточить нас у домашній в'язниці. Попросимо його покінчити з голодом, він скаже "Легко!" і просто вб'є всіх людей. Якщо ж поставити завдання зберігати життя максимально можливо, він знову ж таки уб'є всіх людей, тому що вони вбивають більше життя на планеті, ніж інші види.

Такі цілі ставити не можна. Що ми тоді зробимо? Поставимо завдання: підтримувати цей конкретний моральний код у світі і видамо низку моральних принципів? Навіть якщо опустити той факт, що люди у світі ніколи не зможуть домовитися про єдиний набір цінностей, якщо дати ІІ таку команду, він заблокує наше моральне розуміння цінностей назавжди. Через тисячу років це буде так само руйнівним для людей, якби ми сьогодні дотримувалися ідеалів людей середньовіччя.

Ні, нам потрібно запрограмувати здатність людей продовжувати розвиватись. З усього, що я читав, найкраще висловив це Еліезер Юдковський, поставивши мету ІІ, яку він назвав «послідовним волевиявленням». Основною метою ІІ тоді буде це:

«Наше послідовне виражене волевиявлення таке: наше бажання - знати більше, думати швидше, залишатися переважно людьми, ніж ми були, рости далі разом; коли вираз швидше сходиться, ніж розходиться; коли наші бажання швидше йдуть одне за одним, ніж переплітаються; висловлюється як ми хотіли, щоб це виражалося; інтерпретується, як ми хотіли б, щоб це інтерпретувалося».

Чи я хотів би, щоб доля людства полягала у визначенні всіх можливих варіантіврозвитку ІСІ, щоб не було сюрпризів. Але я думаю, що знайдуться люди досить розумні, завдяки яким ми зможемо створити дружню ІСІ. І було б чудово, якби над ІСІ працювали лише найкращі з умів «зони тривоги».


Але є безліч держав, компаній, військових, наукових лабораторій, організацій чорного ринку, які працюють над усіма видами штучного інтелекту. Багато хто з них намагається побудувати штучний інтелект, який може покращувати сам себе, і в якийсь момент у них це вийде, і на нашій планеті з'явиться ІСІ. Середньостатистичний експерт вважає, що цей момент настане у 2060 році; Курцвейл робить ставку на 2045; Бостром думає, що це може статися через 10 років і будь-якої миті до кінця століття. Він описує нашу ситуацію так:

«Перед перспективою інтелектуального вибуху ми, люди, як малі діти, які грають із бомбою. Така невідповідність між потужністю нашої іграшки та незрілістю нашої поведінки. Надінтелект - це проблема, до якої ми поки не готові і ще довгий часготові не будемо. Ми уявлення не маємо, коли відбудеться детонація, але якщо ми триматимемо пристрій біля вуха, ми зможемо почути слабке цокання».

Супер. І ми не можемо просто взяти та відігнати дітей від бомби – надто багато великих та малих осіб працюють над цим, і так багато засобів для створення інноваційних систем ІІ, які не вимагатимуть суттєвих впливів капіталу, а також можуть протікати у підпіллі, ніким не помічені. Також немає жодних можливостей оцінити прогрес, тому що багато хто з дійових осіб- хитрі держави, чорні ринки, терористичні організації, технологічні компанії - зберігатимуть свої напрацювання у найсуворішому секреті, не даючи жодного шансу конкурентам.

Особливу тривогу в цьому всьому викликають темпи зростання цих груп - у міру розвитку все розумніших систем УІІ вони постійно намагаються кинути пил в очі конкурентам. Найамбіційніші починають працювати ще швидше, захоплені мріями про гроші та славу, до яких вони прийдуть, створивши ОІІ. І коли ви летить вперед так швидко, у вас може бути занадто мало часу, щоб зупинитися і задуматися. Навпаки, перші системи програмуються з однією найпростішою метою: просто працюй, ІІ, будь ласка. Пиши нотатки ручкою на папері. Розробники думають, що завжди зможуть повернутися і переглянути ціль, маючи на увазі безпеку. Але чи це так?

Бостром та багато інших також вважають, що найімовірнішим сценарієм буде те, що перший комп'ютер, який стане ІСІ, моментально побачить стратегічну вигоду в тому, щоб залишатися єдиною системою ІСІ у світі. У разі швидкого зльоту, після досягнення ІСІ навіть за кілька днів до другої появи ІСІ, цього буде достатньо, щоб придушити решту конкурентів. Бостром називає це вирішальною стратегічною перевагою, яка б дозволила першому у світі ІСІ стати так званим синглтоном («Одиночкою», Singletone) - ІСІ, який зможе вічно правити світом і вирішувати, привести нас до безсмертя, до вимирання або ж наповнити Всесвіт нескінченними скріпками.

Феномен синглтона може спрацювати на нашу користь або спричинити наше знищення. Якщо люди, стурбовані теорією ІІ та безпекою людства, зможуть придумати надійний спосіб створити дружній штучний надінтелект до того, як будь-який інший ІІ досягне людського рівня інтелекту, перший ІСІ може виявитися дружнім. Якщо потім він використовуватиме вирішальну стратегічну перевагу для збереження статусу синглтона, він легко зможе утримати світ від появи недружнього ІІ. Ми будемо в хороших руках.

Але якщо щось піде не так - глобальний поспіх призведе до появи ІСІ до того, як буде розроблений надійний спосіб зберегти безпеку, швидше за все, ми отримаємо глобальну катастрофу, тому що з'явиться така собі Таррі-синглтон.

Куди вітер дме? Поки що більше грошей вкладається у розвиток інноваційних технологій ІІ, ніж у фінансування досліджень безпеки ІІ. Це може бути найважливішою гонкою в історії людства. Ми маємо реальний шанс або стати правителями Землі і піти на заслужену пенсію у вічність, або вирушити на шибеницю.

Прямо зараз у мені бореться кілька дивних почуттів.

З одного боку, думаючи про наш вигляд, мені здається, що ми матимемо лише один постріл, яким ми не повинні промахнутися. Перший ІСІ, якого ми приведемо у світ, швидше за все, буде останнім – а враховуючи, наскільки кривими виходять продукти версії 1.0, це лякає. З іншого боку, Нік Бостром вказує, що ми маємо перевагу: ми робимо перший крок. В наших силах звести всі загрози до мінімуму і передбачити все, що тільки можна, забезпечивши успіх високі шанси. Наскільки високі ставки?

Якщо ІСІ справді з'явиться у цьому столітті і якщо шанси цього неймовірні – і неминучі – як вважає більшість експертів, на наших плечах лежить величезна відповідальність. Життя людей наступних мільйонів років тихо дивляться на нас, сподіваючись, що ми не схибимо. Ми маємо шанс подарувати життя всім людям, навіть тим, хто приречений на смерть, а також безсмертя, життя без болю та хвороб, без голоду та страждань. Або ми підводимо всіх цих людей - і наводимо наш неймовірний вигляд, з нашою музикою та мистецтвом, цікавістю та почуттям гумору, нескінченними відкриттями та винаходами, до сумного та безцеремонного кінця.

Коли я думаю про такі речі, єдине, що я хочу, щоб ми почали переживати про ІІ. Ніщо в нашому існуванні не може бути важливішим за це, а раз так, нам потрібно кинути все і зайнятися безпекою ІІ. Нам важливо витратити цей шанс із найкращим результатом.

Але потім я замислююся над тим, щоб не померти. Ні. Померти. І все приходить до того, що а) якщо ІСІ з'явиться, нам точно доведеться робити вибір із двох варіантів; б) якщо ІСІ не з'явиться, на нас точно чекає вимирання.

І тоді я думаю, що вся музика та мистецтво людства хороші, але недостатньо, а левова частка - так зовсім відверта нісенітниця. І сміх людей іноді дратує, і мільйони навіть не замислюються про майбутнє. І, можливо, нам не варто бути дуже обережними з тими, хто не замислюється про життя і смерть? Тому що буде серйозний облом, якщо люди дізнаються, як вирішити завдання смерті після того, як я помру.

Незалежно від того, як ви вважаєте, нам усім варто задуматися про це. У «Грі престолів» люди поводяться так: «Ми так зайняті битвою один з одним, але насправді нам усім потрібно зосередитися на тому, що йде з півночі від стіни». Ми намагаємося встояти на колоді балансу, але насправді всі наші проблеми можуть вирішитися миттєво, коли ми зістрибнемо з нього.

І коли це станеться, ніщо більше не матиме жодного значення. Залежно від того, з якого боку ми впадемо, проблеми будуть вирішені, тому що їх або не буде, або у мертвих людей не може бути проблем.

Ось чому є думка, що надрозумний штучний інтелект може стати останнім нашим винаходом – останнім завданням, з яким ми зіткнемося. А як ви думаєте?

За матеріаламиwaitbutwhy.com, компіляція Тіма Урбана. У статті використані матеріали робіт Ніка Бострома, Джеймса Баррата, Рея Курцвейла, Джея Нільс-Нільссона, Стівена Пінкера, Вернора Вінджа, Моше Варді, Раса Робертса, Стюарта Армстрога та Кая Сотала, Сюзан Шнайдер, Стюарта Расві і Стюарта Расвіла Маркуса, Карла Шульмана, Джона Серля, Джарона Ланьє, Білла Джоя, Кевіна Келі, Пола Аллена, Стівена Хокінга, Курта Андерсена, Мітча Капора, Бена Герцел, Артура Кларка, Хьюберта Дрейфуса, Теда Грінвальда, Джеремі Говарда.

Штучний інтелект – причина, через яку нам кінець?

Що таке штучний інтелект та чого насправді бояться люди?

Однокласники

Штучний інтелект – тема, про яку кожен сформував свою думку.

Експерти в цьому питанні розбилися на два табори.
У першому вважають, що штучного інтелекту немає, у другому - що він є.

Хто з них правий - розбирався Rusbase.

Штучний інтелект та негативні наслідкиімітації

Основна причина суперечок про штучний інтелект – розуміння терміна. Каменем спотикання стали саме поняття інтелекту та... мурахи. Люди, що заперечують існування ІІ, спираються на те, що не можна створити штучний інтелект, тому що не вивчений інтелект людський, а отже - відтворити його подобу неможливо.

Другий аргумент, яким оперують «невіруючі», полягає у кейсі з мурахами. Основна теза кейсу - мурахи довгий час вважалися істотами, які мають інтелект, але після досліджень стало ясно, що вони його імітували. А імітація інтелекту значить його наявність. Тому все, що імітує розумну поведінку, - інтелектом назвати не можна.

Інша половина табору (що стверджує, що ІІ є) на мурах і природі людського розуму не зациклюється. Натомість вони оперують більш практичними поняттями, сенс яких у тому, що штучний інтелект - властивість машин виконувати інтелектуальні функції людини. Але що можна вважати інтелектуальними функціями?

Історія штучного інтелекту і кому це спало на думку

Джон Маккарті, автор терміна «штучний інтелект», визначив інтелектуальну функцію як обчислювальну складову здатності досягати мети. Саме визначення штучного інтелекту Маккарті пояснив як науку та технологію створення інтелектуальних комп'ютерних програм.

Визначення Маккарті виникло пізніше, ніж саме науковий напрямок. Ще в середині минулого століття вчені намагалися зрозуміти, як працює людський мозок. Потім з'явилися теорії обчислень, теорії алгоритмів та перші у світі комп'ютери, обчислювальні можливості яких наштовхнули світил науки на думки про те, чи зможе машина зрівнятися з розумом людини.

Вишнею на торті стало рішення Алана Тьюринга, який знайшов спосіб перевірити розумність комп'ютера - і створив тест Тьюринга, який визначає, чи може мислити машина.

То що таке штучний інтелект і навіщо він створений?

Якщо не брати до уваги мурах і природу людського інтелекту, ІІ в сучасному контексті - властивість машин, комп'ютерних програм і систем виконувати інтелектуальні та творчі функції людини, самостійно знаходити способи вирішення завдань, вміти робити висновки та приймати рішення.

Раціонально не сприймати штучний інтелект як подобу людського розуму та розділяти футурологію та науку, оскільки ІІ та «Скайнет».

Тим більше більшість сучасних продуктів, створених за допомогою ІІ-технологій – не новий виток розвитку штучного інтелекту, а лише використання старих інструментів для створення нових та необхідних рішень.

Чому апгрейд не вважається за розвиток штучного інтелекту

Але чи такі це нові ідеї? Взяти, наприклад, Siri, хмарного помічника, оснащеного запитально-відповідною системою. Подібний проект був створений ще у 1966 році і теж носив жіноче ім'я- Еліза. Інтерактивна програма підтримувала діалог із співрозмовником настільки реалістично, що люди у ній визнавали живу людину.

Або промислові роботи, які використовує Amazon на складі. Задовго до цього у 1956 році роботи Unimation працювали в General Motors, переміщуючи важкі деталі та допомагаючи у збиранні автомобілів. А інтегральний робот Шейкі, розроблений у 1966 році і став першим мобільним роботом, який керувався штучним інтелектом? Не нагадує сучасну та вдосконалену Надін?

Проблеми неприродних інтелектів. Інтелекція Григорія Бакунова

І куди без останнього тренду – нейромереж? Сучасні стартапи на нейромережах ми знаємо – згадати хоча б Prisma. А штучну нейронну мережу на основі принципу самоорганізації для розпізнавання образів під назвою «Когнітрон», створену у далекому 1975 році – ні.

Інтелектуальні чат-боти теж не стали винятком. Далекий предок чат-ботів - CleverBot, що працює на алгоритмі штучного інтелекту, розробленому ще 1998 року.

Тому штучний інтелект не є чимось новим та унікальним. Страшним перспективою поневолення людства феноменом - тим паче. Сьогодні ІІ - це використання старих інструментів та ідей у ​​нових продуктах, що відповідають вимогам сучасного світу.

Можливості штучного інтелекту та невиправдані очікування

Якщо порівнювати штучний інтелект з людиною, то сьогодні його розвиток перебуває на рівні дитини, яка вчиться тримати ложку, намагається встати з караків на дві ноги і ніяк не може відвикнути від памперсів.

Ми звикли бачити ІІ всемогутньою технологією. Навіть Господа Бога у фільмах не показують настільки всесильним, як табличку ексель, що вийшла з-під контролю корпорації. Чи може бог відключити всю електрику в місті, паралізувати роботу аеропорту, злити в інтернет секретні листування глав держав та спровокувати економічну кризу? Ні, а штучний інтелект може, але лише у кіно.

Завищені очікування – це причина, через яку ми в житті, адже автоматичний робот-пилосос не зрівняється з роботом-дворецьким Тоні Старка, а домашній та милий Zenbo не влаштує вам «Світ Дикого Заходу».

Росія та застосування штучного інтелекту – є хто живий?

І хоча штучний інтелект не виправдовує очікування більшості, у Росії він використовується у різних сферах, починаючи від державного управління та закінчуючи дейтингом.

Сьогодні знайти та ідентифікувати об'єкти, проаналізувавши дані зображень, можна за допомогою ІІ. Виявити агресивну поведінку людини, виявити спробу злому банкомату та розпізнати по відео особистість того, хто це намагався зробити – вже можна.

Біометричні технології теж пішли вперед і дозволяють не лише за відбитками пальців, а й за голосом, ДНК чи сітківкою ока. Так, просто як у фільмах про спецагентів, які могли потрапити в секретне місце лише після сканування очного яблука. Але біометричні технології застосовуються як для верифікації таємних агентів. У реальному світі біометрія використовується для аутентифікації, перевірок заявок на кредит та контролю за роботою персоналу.

Біометрія – не єдиний приклад застосування. Штучний інтелект тісно пов'язаний з іншими технологіями та вирішує завдання рітейлу, фінтеху, освіти, промисловості, логістики, туризму, маркетингу, медицини, будівництва, спорту та екології. Найбільш успішно в Росії ІІ використовується для вирішення завдань передиктивної аналітики, інтелектуального аналізу даних, обробки природної мови, мовленнєвих технологій, біометрії та комп'ютерного зору.

Завдання штучного інтелекту і чому він нічого вам не винен

Жодної місії штучний інтелект не має, а завдання перед ним ставляться з метою і скорочення ресурсів, чи це час, гроші чи люди.

Як приклад – інтелектуальний аналіз даних, де ІІ оптимізує закупівлі, логістичні ланцюжки та інші бізнес-процеси. Або комп'ютерний зір, де за допомогою технологій штучного інтелекту проводиться відеоаналітика та створюється опис змісту відео. Для вирішення завдань мовних технологій ІІ розпізнає, аналізує та синтезує усне мовлення, роблячи ще один маленький крок на шляху до того, щоб навчити комп'ютер розуміти людину.

Розуміння людини комп'ютером вважають тією самою місією, виконання якої наблизить нас до створення сильного інтелекту, оскільки для розпізнавання природного мови машині знадобляться як величезні знання світі, а й постійне взаємодію Космосу з ним. Тому «віруючі» у сильний штучний інтелект відносять розуміння машиною людини до найважливішого завдання ІІ.

Гуманоїд Надін має індивідуальність та призначений на роль соціального компаньйона.

У філософії штучного інтелекту навіть існує гіпотеза, за якою є слабкий і сильний штучні інтелекти. У ній сильним інтелектом вважатиметься комп'ютер, здатний мислити і усвідомлювати себе. Теорія слабкого інтелекту таку можливість відкидає.

До сильного інтелекту і справді багато вимог, деякі з яких вже виконані. Наприклад, навчання та прийняття рішень. Але чи зможе колись макбук відповідати таким вимогам, як співпереживання та мудрість – велике питання.

Чи можливо, що в майбутньому з'являться роботи, які зможуть не лише імітувати людську поведінку, а й співчутливо кивати, слухаючи чергове невдоволення несправедливістю людського буття?

Навіщо ще потрібен робот зі штучним інтелектом?

У Росії її робототехніці з використанням штучного інтелекту приділяється мало уваги, але сподівання те, що це тимчасове явище є. CEO Mail Group Дмитро Гришин навіть фонд Grishin Robotics, щоправда, про гучні знахідки фонду поки не було чути.

З останніх хороших російських прикладів – робот «Емеля» від i-Free, здатний розуміти природну мову та спілкуватися з дітьми. На першому етапі робот запам'ятовує ім'я та вік дитини, підлаштовуючись під його вікову групу. Також він може розуміти питання та відповідати на них – наприклад, говорити про прогноз погоди або розповісти факти з «Вікіпедії».

В інших країнах роботи користуються більшою популярністю. Наприклад, у китайській провінції Хенань на вокзалі для швидкісних поїздів служить справжній , який може сканувати та розпізнавати обличчя пасажирів.