Е́тика шту́чного інтеле́кту є частиною , що стосується роботів та інших штучно інтелектуальних істот. Вона зазвичай поділяється на робоетику, яка вирішує питання моральної поведінки людей під час проєктування, конструювання, використання та лікування штучно розумних істот, і машинну етику, яка зачіпає проблеми моральної поведінки штучних моральних агентів (ІМА).
Етика роботів
Термін «етика роботів» (або «робоетика») стосується моральних аспектів того, як люди проєктують, конструюють, використовують і поводяться з роботами та іншими штучно інтелектуальними істотами. Вона розглядає, як штучно розумні істоти можуть бути використані на шкоду або в інтересах людей.
Права роботів «Права роботів» — це концепція, згідно з якою люди повинні мати моральні зобов'язання перед своїми машинами, подібні до прав людини або тварин. Є пропозиція, що права роботів, такі як право на існування і виконання власної місії, можна пов'язати з обов'язком робота служити людині, за аналогією з пов'язанням прав людини з обов'язками людини перед суспільством. Вони можуть включати право на життя і свободу, свободу думки і висловлювань, а також рівність перед закономThe American Heritage Dictionary of the English Language, Fourth Edition. Це питання розглядав Інститут майбутнього і Міністерство торгівлі та промисловості Великої Британії.
Експерти не мають спільної думки, чи потрібні конкретні і докладні закони вже найближчим часом, чи тільки у віддаленому майбутньому. Гленн Макгі повідомляє, що до 2020 року може з'явитися досить гуманоїдний робот. Рей Курцвайл вважає, що це відбудеться до 2029 року. У 2007 році інша група вчених припускала, що пройде, принаймні, 50 років, перш ніж зможе існувати досить просунута системаThe Big Question: Should the human race be worried by the rise of robots?, Independent Newspaper,.
Правила конкурсу премії Льобнера 2003 року передбачали можливість того, що роботи можуть мати власні права.
У жовтні 2017 року андроїд Софія отримала «почесне» громадянство в Саудівській Аравії, хоча деякі спостерігачі визнали це швидше рекламним ходом, аніж осмисленим юридичним визнанням. Деякі розглядали цей жест як відкрите приниження прав людини і верховенства закону.
Філософія надає право на моральне ставлення всім чутливим істотам, передусім людям і більшості тварин. Якщо штучні або інопланетні інтелектуальні істоти демонструють докази своєї чуттєвості, ця філософія вважає, що до них слід проявити співчуття і надати права.
Джоанна Брайсон стверджувала, що створення ШІ, який вимагає прав, можна уникнути, і саме по собі неетично, що це буде тягарем і для агентів ШІ і для людського суспільства.
Загроза людській гідності Джозеф Вейценбаум стверджував у 1976 році, що технологія штучного інтелекту не повинна використовуватися для заміни людей на посадах, які вимагають поваги і турботи, таких як:
співробітник служби підтримки клієнтів (технології ШІ вже використовуються в телефонних системах інтерактивних голосових відповідей) терапевт (як запропонував Кеннетом Колбі в 1970-х роках) доглядальниця для літніх людей (як розповіла Памела Маккордак у книзі «П'яте покоління») солдат суддя поліцейський
Вайзенбаум пояснює, що від людей на цих посадах ми очікуємо справжнього почуття емпатії. Якщо машини їх замінять, ми опинимося відчуженими, знеціненими і розчарованими. Штучний інтелект, якщо його використовувати таким чином, є загрозою для людської гідності. Вайзенбаум стверджує, що факт того, що ми розглядаємо можливість машинам займати ці позиції, говорить про те, що ми пережили «атрофію людського духу, яка виникає через те, що ми думаємо про себе як про комп'ютери»Joseph Weizenbaum, quoted in .
Памела Маккордак заперечує, кажучи про жінок і меншини, «я воліла б ризикнути з неупередженим комп'ютером», вказуючи на умови, за яких ми б вважали за краще мати автоматичних суддів і поліцію, у яких взагалі немає особистих інтересів. Проте, Каплан і Хенлейн підкреслюють, що системи штучного інтелекту інтелектуальні точно згідно з даними, які використовувалися для їх навчання, оскільки за своєю суттю вони являють собою не що інше, як машини для наближення за допомогою кривих: використання штучного інтелекту для підтримки судового рішення може стати досить проблематичним, якщо минулі рішення демонструють упередженість до певних груп, оскільки ці упередження формалізуються та закріплюються, що робить виявлення і боротьбу з ними ще важчою. Засновник ШІ Джон Маккарті заперечує проти моралізаторського тону критики Вейзенбаума. Він пише: «Коли моралізаторство несамовите і розпливчасте, воно заохочує авторитарне насильство».
Білл ГіббардHibbard, Bill (2014): «Ethical Artificial Intelligence». зазначав, що «людська гідність вимагає, щоб ми прагнули усунути наше незнання природи буття, і для цього необхідний ШІ».
Прозорість, відповідальність і відкритий сирцевий код стверджує, що, оскільки ШІ дуже вплине на людство, зусилля розробників ШІ етично мають бути прозоримиOpen Source AI. Bill Hibbard. 2008 proceedings of the First Conference on Artificial General Intelligence, eds. Pei Wang, Ben Goertzel and Stan Franklin.. Бен Гертцель і Девід Гарт створили OpenCog як фреймворк з відкритим сирцевим кодом для розробки ШІOpenCog: A Software Framework for Integrative Artificial General Intelligence. David Hart and Ben Goertzel. 2008 proceedings of the First Conference on Artificial General Intelligence, eds. Pei Wang, Ben Goertzel and Stan Franklin.. OpenAI — це некомерційна дослідницька компанія зі штучного інтелекту, яку створили Ілон Маск, Сем Альтман та інші для розробки корисного для людства програмного забезпечення ШІ з відкритим сирцевим кодомInside OpenAI, Elon Musk's Wild Plan to Set Artificial Intelligence Free Cade Metz, Wired 27 April 2016.. Існує багато інших розробок ШІ з відкритим сирцевим кодом.
На жаль, відкритість коду не робить його зрозумілим, тобто ШІ, який ним закодовано, не є прозорим. IEEE намагається стандартизувати прозорість ШІ.. При цьому IEEE виділяє для різних користувачів декілька ступенів прозорості. Крім того, є побоювання, що надання повного потенціалу сучасного ШІ деяким організаціям може завдати суспільству більше шкоди, ніж користі. Наприклад, Microsoft висловила стурбованість з приводу надання загального доступу до свого програмного забезпечення для розпізнавання облич, навіть з числа тих, хто може за нього заплатити. Microsoft опублікувала незвичайний блог на цю тему з проханням про урядове урегулювання з метою визначення правильності цих дій.
Не тільки компанії, але й багато інших дослідників і цивільні адвокати рекомендують державне регулювання для забезпечення прозорості і, як наслідок, відповідальності людини. Оновлену збірку (список) етики ШІ підтримує організацією AlgorithmWatch. Ця стратегія спірна, так як дехто побоюється, що вона призведе до уповільнення темпів інновацій. Інші стверджують, що регулювання призводить до системної стабільності, що сприяє підтримці інновацій у довгостроковій перспективі. ОЕСР, ООН, ЄС і багато країн працюють над стратегіями регулювання ШІ і шукають відповідні правові рамки. 26 червня Група високорівневих експертів Європейської комісії зі штучного інтелекту (AI HLEG) опублікувала свої «Рекомендації щодо політики та інвестицій в галузі надійного штучного інтелекту». Це другий документ AI HLEG, який вийшов слідом за публікацією в квітні 2019 «Керівництва з етики для надійного ШІ». Нові рекомендації стосуються чотирьох основних областей: люди і суспільство в цілому, приватний сектор, державний сектор, а також дослідження і наука. Рекомендації HLEG відбивають розуміння як можливостей для технологій штучного інтелекту стимулювати економічне зростання, процвітання та інновації, так і потенційних ризиків. Європейський Союз має амбіції очолити розробку політик, що регулюють ШІ у всьому світі. Однак, якщо Європа не прискорить розгортання і впровадження і не створить виробничі, дослідницькі та дослідно-конструкторські потужності, її можливості для цього будуть обмежені.
Упередженість у системах ШІ ШІ стає невід'ємною частиною систем розпізнавання обличчя і голосу. Деякі з цих систем мають реальний вплив на бізнес і людей. Ці системи вразливі щодо упереджень і помилок, внесених творцями-людьми. Крім того, дані, які використовуються для навчання самих цих систем ШІ, можуть мати спотворення. Наприклад, алгоритми розпізнавання облич, розроблені Microsoft, IBM і Face++, виявилися необ'єктивними, коли справа дійшла до визначення статі людей. Ці системи штучного інтелекту були в змозі визначати стать білих чоловіків точніше, ніж стать темношкірих чоловіків. Ще одним прикладом необ'єктивності ШІ стало припинення з боку Amazon's.com Inc використання ШІ для найму співробітників. Алгоритм надавав перевагу кандидатам-чоловікам. Це сталося тому, що система Amazon була навчена з використанням даних, зібраних за 10-річний період, які надходили переважно основному від кандидатів-чоловіків.
Упередженість може потрапити в алгоритми різними шляхами. В дуже впливовій гілці ШІ, відомій як «обробка природної мови», можуть виникнути проблеми з «текстового зводу» — вхідного матеріалу, який використовує алгоритм, щоб дізнатися про взаємозв'язки між різними словами.
Проблему упередженості почали досліджувати та вирішувати великі компанії, такі як IBM, Google та інші.
Проблема упередженості в машинному навчанні, ймовірно, стане ще серйознішою, оскільки технологія поширюється на такі критичні галузі, як медицина, юриспруденція, і оскільки завдання її розгортання доручають все більшому числу людей, які не мають глибоких технічних знань. Деякі експерти попереджують, що алгоритмічна необ'єктивність вже поширена в багатьох галузях, і що майже ніхто не робить зусиль для її виявлення або виправлення.
Відповідальність за частково або повністю безпілотні автомобілі Є всі підстави вважати, що в майбутньому неминуче широке використання частково або повністю безпілотних автомобілів. Але повністю автономні технології ставлять перед нами нові проблеми і виклики. Останнім часом піднялися дебати з приводу юридичної відповідальності сторін при попаданні безпілотних автомобілів в аварії. В одному зі звітів автомобіль без водія збив пішохода і постала проблема, хто винен в аварії. Незважаючи на те, що водій під час аварії перебував в автомобілі, керування повністю здійснював комп'ютер. Необхідно вирішити такого роду питання перш, ніж безпілотні автомобілі набудуть масового поширення.
Озброєний штучний інтелект Деякі експерти і вчені ставлять під сумнів використання роботів у бойових діях, особливо коли таким роботам надається певний ступінь автономностіCall for debate on killer robots , By Jason Palmer, Science and technology reporter, BBC News, 8/3/09.Robot Three-Way Portends Autonomous Future , By David Axe wired.com, August 13, 2009.. ВМС США профінансували доповідь, у якій зазначається, що, оскільки бойові роботи стають все складнішими, слід приділяти більше уваги наслідкам їх здатносты приймати самостійні рішенняNavy report warns of robot uprising, suggests a strong moral compass , by Joseph L. Flatley engadget.com, Feb 18th 2009.. Є думка одного дослідника, який стверджує, що автономні роботи можуть бути гуманнішими, оскільки можуть приймати рішення ефективніше.
Протягом останнього десятиріччя проводилися інтенсивні дослідження в галузі самонавчання автономності з призначуваною моральною відповідальністю. «Результати можна використати при розробці майбутніх військових роботів для контролю за небажаними тенденціями покладання відповідальності на роботів». З точки зору консеквенціалізму є ймовірність, що роботи будуть розвивати здібності приймати свої власні логічні рішення про те, кого вбивати, і тому необхідні моральні обмеження, які ШІ не зможе обійти.