AI-ի էթիկան և ճանաչված արհեստական ​​ինտելեկտի անսովոր հովիտը, որը նաև ցնցում է AI-ի վրա հիմնված ինքնակառավարվող մեքենաները

Երբեմն կան թեթևակի տարօրինակ բաներ, որոնք գրավում են ձեր ուշադրությունը և ստիպում են ձեր ինտուիտիվ հյութերը առաջացնել, որ ինչ-որ բան այն չէ: Տարօրինակությունը բացահայտ չէ, ամենևին էլ աղաղակող չէ ձեր դեմքին: Հնարավոր է, որ դուք նույնիսկ չկարողանաք անմիջապես ձեր մատը դնել այն բանի վրա, թե որն է անհամապատասխանությունը կամ ինչպես է ստացվում, որ ձեր առածական սարդի զգացումը մռնչում է:

Հավանաբար, նկատվում են նուրբ հուշող հուշումներ: Միգուցե դուք ձեր աղիքներում գիտակցեք, որ դիսոնանս գոյություն ունի: Ենթադրում եմ, որ կարող եք ասել, որ կա աննշան ահավորության ամենափոքր նշույլը, և ձեր նուրբ մարդկային ռադարը այլ կերպ թաքնված թվացող ազդանշաններ է ընդունում:

Բարի գալուստ անսովոր հովիտ:

Եթե ​​դուք երբեք չեք լսել անսովոր հովտի մասին, մի թեմա, որը համեմատաբար տարածված է արհեստական ​​ինտելեկտի և հատկապես ռոբոտաշինության ոլորտում, ապա ձեզ մի փոքր հաճույք է պատճառում, քանի որ դա այն թեման է, որը ես պատրաստվում եմ սերտորեն քննարկել և վերլուծել այստեղ:

Համընդհանուր հասկացությունը կարող է կիրառվել շատ բաների վրա, որոնք մենք զգում ենք կյանքում, թեև հիմնական սկզբունքները և սկզբնական սահմանումը ներառում են AI համակարգեր և ռոբոտներ: Մենք նախ կուսումնասիրենք անսովոր հովտի ծագումն ու սկզբնական նշանակությունը, այնուհետև կանցնենք ընդլայնման՝ տեսնելու, թե ինչպես են թվում երևույթները կիրառելի ավելի մեծ համատեքստերում:

Ես կարող եմ նաև ավելացնել, որ մենք կքննարկենք, թե արդյոք գոյություն ունի այդ անսովոր հովիտը:

Տեսեք, որոշ թերահավատներ և ցինիկներ պնդում են, որ ամբողջ գործը մի փոքր ապշեցուցիչ է և ջուր չի պահում: Զգույշ եղեք, երբ թեման բարձրացնում եք նրանց, ովքեր գիտեն: Ոմանք ուրախ կժպտան և կծափահարեն ձեր մեջքին, որ դուք քաջածանոթ եք անսովոր հովտին, իսկ ոմանք խստորեն ձեզ դասախոսություն կանեն, որ դա խոզի լվացման ցողուն է, և դուք պետք է համառոտ մաքրեք ձեր միտքը հոգեկան մաքրող օճառով։ .

Այստեղ լավ նորությունն այն է, որ դուք պետք է որոշեք, թե արդյոք անսովոր հովիտը իրական է, թե ոչ, ինչպես նաև այն, թե արդյոք այն արժանիքներ ունի խելամիտ կիրառման համար, թե փոխարենը պետք է անխոհեմ կերպով նետվի տեխնո-գաղափարների աղբահանության վրա: Այդ առումով դու վարորդի տեղում ես։

Այս ամենը նաև սերտորեն վերաբերում է Էթիկական AI-ի զարգացող ոլորտին և աճող գիտակցմանը, որ հասարակությունը պետք է լրջորեն և սթափ ուշադրություն դարձնի AI-ի էթիկայի վրա: Մենք այդ փողկապը մի պահ կկազմենք:

Սկսելու լավագույն տեղը ուղղակիորեն մեջբերելն է պրոֆեսորին, ով հորինել է անսովոր հովիտի հայեցակարգը և բացահայտ անվանել այս հռչակված երևույթը: 1970 թվականին Տոկիոյի տեխնոլոգիական ինստիտուտի պրոֆեսոր Մասահիրո Մորին մի քիչ հայտնի ամսագրում հրապարակեց բավականին մանր հոդված, որը կոչվում էր. էներգիա (հատկապես օջախ չէ AI-ի և ռոբոտաշինության համար) և ասաց սա.

«Ես նկատել եմ, որ բարձրանալով դեպի ռոբոտներին մարդ երևալու նպատակը, մեր մտերմությունը նրանց հանդեպ մեծանում է, մինչև որ հասնենք մի հովիտ, որը ես անվանում եմ անսովոր հովիտ»:

Խնդրում ենք նկատի ունենալ, որ վերը նշված արտահայտությունը ցուցադրված է անգլերենով, թեև բնօրինակը ճապոներեն էր: Անգլերեն թարգմանված տարբերակը վերահսկվել է հեղինակի կողմից և հետագայում տպագրվել է IEEE սպեկտրը 2012 թվականին և որպես հեղինակ վերագրվել է Մասահիրո Մորիին: Դուք կարող եք ինքներդ կարդալ թերթը, քանի որ այն բաց և ազատ հասանելի է առցանց: Դա միգուցե տասը րոպեի հստակ արագ ընթերցում է և չի պարունակում որևէ տեխնիկական ծանր տերմինաբանություն:

Այսպես ասվեց, հետաքրքիր է և ինչ-որ չափով զարմանալի, որ 1970-ին տպագրված նման արագ հոդվածը ի վերջո սկիզբ դրեց հետաքննության մի ամբողջ ասպարեզի և հարուցեց մի շարք հարակից ուսումնասիրությունների, նախագծերի, հետազոտությունների և երբեմն հակասությունների բոց, թե արդյոք ներկայացված Անսովոր հովտի հայեցակարգն իսկապես գոյություն ունի: Ենթադրում եմ, որ սա ցույց է տալիս, որ ինտրիգային և երբեմն տեսակետ փոխող գաղափարները չպետք է զանգվածաբար խճճվեն կամ լցոնվեն ժարգոնով և վեհությամբ: Հակիրճ գաղափարը կարող է լինել ոչ ավելի հզոր, քան կարող է թվալ իրերի երեսին:

Ես վստահ եմ, որ դա կխրախուսի ձեզ փորձել և խթանել ձեր նոր գաղափարները՝ դա անելով գիտակցելով, որ քաղցրն ու պարզը կարող են լինել նույնքան հոյակապ կամ երբեմն ավելի շատ, քան խճճված և բարդ:

Եկեք ետ ցատկենք դեպի անսովոր հովտում առաջացում:

Դուք հանդիպում եք ռոբոտային համակարգի, որն ունի դեմք, որը նման է մարդու դեմքին: Պատկերացրեք, որ այս ռոբոտային դեմքը ստեղծվել է բազմաթիվ կրկնությունների միջոցով: Արհեստական ​​ինտելեկտի մշակողները, որոնք հավաքում են ռոբոտի գլուխը, աստիճանաբար փորձում են այնպես անել, որ դեմքի ռոբոտի հատվածը ավելի ու ավելի նման լինի իրական մարդու դեմքին:

Նրանց առաջին փորձը չափազանց պարզունակ էր: Ռոբոտի դեմքն ուներ նույն տեսքը, որը դուք տեսել եք գիտաֆանտաստիկ ֆիլմերում՝ ամբողջովին մետաղական լինելու և շարժակների ու լարերի ցուցադրման մասին: Հնարքին նայելուց անմիջապես հասկանում ես, որ այն ռոբոտ է: Ձեր մտքում հարց չկա դրա մասին:

AI ծրագրավորողների հաջորդ փորձը ներառում էր մի քանի պլաստիկ նյութեր մետաղական կտորների շուրջ փաթաթելը: Թեև սա մի փոքր ավելի ընկերասեր տեսք ունի, դուք դեռ անմիջապես գիտեք, որ դա ռոբոտի գլուխ է և ռոբոտացված դեմք: Կրկին, հեշտ է հայտնաբերել:

AI ծրագրավորողները վճռական են շարունակել դա շարունակել: Նրանք քանդակում են պլաստիկն ու տալիս մաշկի երանգներ։ Նրանք ավելացնում են այնպիսի հատկություններ, որոնք շատ նման են մարդու դեմքին, ինչպիսիք են խալերը, մազերը, բծերը և այլն։

Առաջին հայացքից դուք կարող եք ենթադրել, որ սա մարդկային դեմք է: Եթե ​​նկար արվի ռոբոտային դեմքով, և ձեզ խնդրեն պարզել, թե արդյոք նկարում պատկերված է անձ և ռոբոտացված դեմք, դուք կարող եք խանգարել անմիջապես ասել, թե որն է դա: Մյուս կողմից, եթե դուք կանգնած լինեիք սարքի կողքին, հավանաբար ուշադիր զննելուց հետո կկարողանայիք պարզել, որ այն մարդ չէ, այլ ռոբոտային հնարք։

Բանն այն է, որ նախքան մոտիկից զննում կատարելու այդ հնարավորությունը ստանալը, դեմքի հետ կապված ինչ-որ բան կար, որը, թվում էր, ամբողջությամբ չի գումարվում: Այն, անշուշտ, նման էր մարդու դեմքի: Բայց ինչ-որ բան այն չէր. Դուք պետք է շարունակեք անընդհատ նայել, որպեսզի ձեր մատը դնեիք այն ամենի վրա, ինչն այնքան էլ ճիշտ չի թվում: Միգուցե դա իսկական դեմք է։ Հետո նորից, գուցե դա այդպես չէ: Ձեր միտքը համապատասխանաբար պտտվում է:

Մտքումդ ահավորության տեսք է մտնում:

Դուք չունեք նույն սարսափելի տեսքը, երբ տեսաք նախորդ երկու տարբերակները: Դուք կարող եք առանց դադարի կամ վարանելու հայտնաբերել, որ ռոբոտը ռոբոտ է: Միայն երեխան կարող է խաբվել՝ հավատալով, որ այդ տարբերակներից որևէ մեկը իրական մարդու մասին է:

Այս վերջին տարբերակը, սակայն, տարբեր էր: Այն դեռ կատարելագործված չէր, որ նմանվեր մարդկային դեմքի: Ոչ էլ այն այնքան հեռու էր իրականից, որ ակնհայտ էր, որ դա պետք է լինի ռոբոտ: Մի տեսակ խճճված հող էր հասել։

Ենթադրենք, որ մշակողները շարունակեցին իրենց հետազոտական ​​ջանքերը և ամեն ինչ այնպես արեցին, որ ռոբոտային դեմքը գրեթե չէր տարբերվում մարդու դեմքից: Անկախ նրանից, թե որքան երկար եք նայում այդ իրին, դուք վստահ չեք՝ այն մարդ է, թե ոչ: Երբ տեղեկացվում է, որ դա ռոբոտային դեմքն է, դու ապշած ես։ Գոշ, նրանք մեծ աշխատանք են կատարել այն իրական տեսք տալու համար:

Ուշադրություն դարձրեք, որ մինչ այժմ դուք միայն հաշվի եք առել ռոբոտային ասպեկտները՝ հիմնված միայն արտաքին տեսքի վրա:

Մենք կարող ենք շարժում ավելացնել հավասարմանը: Սա հավելյալ հարթություն է ավելացնում, որպեսզի դուք կարողանաք պարզել, թե արդյոք ռոբոտը ռոբոտ է և մարդ: Ես չեմ ուզում այս քննարկման մեջ սա ամբողջությամբ ներկայացնել որպես բազմաչափ տեսակի խնդիր, քանի որ այն ավելի խճճված է դարձնում այս թեմայի պարզաբանումը (թեև կան բազմաչափություններ անխուսափելիորեն միահյուսված): Ամեն դեպքում, պատկերացրեք, որ դուք ոչ միայն տեսել եք ռոբոտի դեմքը, այլև կարող եք դիտել, թե ինչպես է ռոբոտը շարժում դեմքի հատկությունները, ինչպիսիք են բերանը, աչքերը, քիթը և այլն: Ակնհայտ է, որ դրանք կարող են նաև նվերներ լինել այն մասին, թե արդյոք սա ռոբոտ կամ մարդ.

Անսովոր հովտի առաջնագծում մնալու կարևորագույն ասպեկտներից մեկն այն է, որ սկզբնական հայեցակարգն ընդգծում է մարդկային հարազատության ակտը: Հայտարարված երևույթն այն է, որ ձեր հարազատությունը մեծանում է, քանի որ տեսնում եք աստիճանաբար բարելավվող ռոբոտի դեմքերը, մինչև այն պահը, երբ առաջանում է անսովոր տարբերակը: Ասում են, որ այդ պահին ձեր հարազատության զգացումը կտրուկ իջնում ​​է` ընկնելով դեպի մերձավոր անդունդ կամ հովիտ:

Կոնկրետ վարկածի համար, որի պատճառով դուք կասկածում եք, որ ինչ-որ բան սխալ է, ձեր մտերմությունը, իբր, արմատապես ընկել է: Ավելին, ըստ տեսության, ձեր մտերմությունը կարող է կրկնվել, երբ հանդիպեք ավելի առաջադեմ տարբերակին, որը գրեթե նույնական է իսկական մարդկային ձևին:

Ահա ավելին այն մասին, թե ինչ է ասել հեղինակը մեր սովորական հակվածության մասին՝ ենթադրելու, որ կյանքի ասպեկտները սահուն կերպով աճում են. «Մաթեմատիկական տերմինը. միապաղաղ աճող ֆունկցիա նկարագրում է հարաբերություն, որում գործառույթը y = ƒ(x) փոփոխականի հետ անընդհատ աճում է x. Օրինակ, որպես ջանք x աճում է, եկամուտ y ավելանում է, կամ երբ մեքենայի արագացուցիչը սեղմվում է, մեքենան ավելի արագ է շարժվում: Այս տեսակի հարաբերությունները ամենուր են և շատ հեշտ հասկանալի: Իրականում, քանի որ նման միապաղաղ աճող գործառույթներն ընդգրկում են առօրյա կյանքի երևույթների մեծ մասը, մարդիկ կարող են պատրանքի տակ ընկնել, որ նրանք ներկայացնում են բոլոր հարաբերությունները: Այս կեղծ տպավորության մասին է վկայում նաև այն փաստը, որ շատ մարդիկ պայքարում են կյանքի ընթացքում՝ համառորեն հրելով՝ չհասկանալով հետ քաշվելու արդյունավետությունը: Այդ պատճառով մարդիկ սովորաբար տարակուսում են, երբ բախվում են ինչ-որ երեւույթի, որը այս գործառույթը չի կարող ներկայացնել»։ Սա մեջբերում է IEEE սպեկտրը թարգմանված թուղթ.

Միշտ աճող այս գրեթե համընդհանուր ենթադրությունը կարող է տապալվել, երբ մենք բախվում ենք սխալ բանի: Սարսափելիությունը և կասկածամտությունը կհանգեցնեն հարաբերակցության համեմատաբար կտրուկ և կտրուկ անկմանը, ասում է տեսությունը, օրինակ՝ ռոբոտ ձեռքը, որը դուք ընտրեցիք թափահարել և չկարողացաք զգալ մարդու ձեռքի ոսկրային հատկությունները. «Երբ դա տեղի է ունենում, մենք կորցնում ենք մեր զգացողությունը։ կապակցությամբ, և ձեռքը դառնում է անսովոր: Մաթեմատիկական առումով սա կարող է ներկայացվել բացասական արժեքով»։

Եթե ​​դուք ընդունում եք այն նախադրյալը, որ գոյություն ունի անսովոր հովտի այս երևույթը, վստահ եմ, որ ձեզ հետաքրքրում է, թե ինչ օգուտ է ձեզ իմանալ, որ անսովոր հովիտը, ըստ երևույթին, գոյություն ունի:

Դա բոլոր ժամանակների դասականն է «բա ի՞նչ»: գործնականության թեստ.

Պարզվում է, որ շատ մարդիկ բազմաթիվ մեկնաբանություններ են տվել այն մասին, թե ինչ պետք է կամ կարող ենք անել անսովոր հովտում: Տոննա կարծիքներ կան։ Ես շուտով կանդրադառնամ դրանցից մի քանիսին:

Միևնույն ժամանակ, ահա թե ինչ առաջարկեց Մասահիրո Մորին. «Մենք հույս ունենք նախագծել և կառուցել ռոբոտներ և պրոթեզավոր ձեռքեր, որոնք չեն ընկնի անսովոր ձորը: Այսպիսով, երկրորդ գագաթը բարձրացնելու համար մարդկային նմանության աստիճանը բարձրացնելու փորձին բնորոշ ռիսկի պատճառով, ես խորհուրդ եմ տալիս, որ դիզայներներին փոխարենը իրենց նպատակը վերցնեն առաջին գագաթը, ինչը հանգեցնում է մարդու նմանության չափավոր աստիճանի և զգալի մերձեցման: . Իրականում, ես կանխատեսում եմ, որ հնարավոր է ստեղծել մերձավորության անվտանգ մակարդակ՝ միտումնավոր հետապնդելով ոչ մարդկային դիզայն: Ես խնդրում եմ դիզայներներին խորհել այս մասին»:

Տասներկու հարմար նստատեղերի կանոնների արագ խտացումն այն մասին, թե ինչ պետք է անել անսովոր հովտի հետ կապված, հետևյալն է հատկապես AI մշակողների համար.

1) Տեղյակ եղեք անսովոր հովտի մասին և համապատասխանաբար եղեք ձեր մատների վրա

2) Դուք ենթադրաբար ցանկանում եք որքան հնարավոր է մարդկային մտերմություն ձեռք բերել ձեր AI-ի նկատմամբ

3) Պատրաստ եղեք մարդկային հարազատության կորստի համար, եթե ձեր AI-ն ընկնի անսովոր հովիտ

4) Ձգտեք խուսափել անսովոր հովտից՝ այսպիսով ստեղծելով ձեր AI

5) Հարգելի է ունենալ նպատակ, որը կարճ է անսովոր հովտից

6) Սլացեք մինչև անսովոր հովտի եզրը, բայց մի ընկեք ժայռի վրայով

7) Մի տարված մի եղեք անսովոր հովտից այն կողմ գնալով

8) Հնարավորություն կա, որ դուք կարող եք ցատկել անսովոր հովտի կողքով

9) Մի զբաղվեք ցատկով, քանի որ ամեն դեպքում կարող եք ձորն ընկնել

10) Մարդկային հարաբերությունների առավելագույն մակարդակը, անշուշտ, ձեռք կբերվի՝ անցնելով անսովոր հովիտը

11) Այնուամենայնիվ, անհասկանալի հովտից առաջ հայտնաբերված է համապատասխան և հարմար կապ.

12) Անընդհատ զգույշ եղեք անսովոր հովտի մասին և թույլ մի տվեք, որ այն ձեր մտքից սայթաքի

Այս տասնյակը բոլորը ընդհանուր ցուցումներ են, որոնք կարելի է համարել անսովոր հովտի մասին իմանալու առանցքաքար կամ խարիսխ: Ես անմիջապես կընդունեմ, որ կան նաև այլ կետեր, որոնք թվարկված չեն այդ սակավ տասնյակում, որոնք կարող են նույնքան կարևոր լինել: Ես պատրաստակամորեն կընդունեմ նաև, որ բացահայտված կետերից յուրաքանչյուրի համար անպայման տարաձայնություններ կան, և յուրաքանչյուր կետի շուրջ կարող է սկսվել երկար թեժ բանավեճ:

Ավելին, ոմանք կարող են ասել, որ տասներկու կետերը բոլորովին աղբ են, քանի որ դրանք հիմնված են սկզբից կեղծիքի վրա: Անսովոր հովիտ գոյություն չունի, կվիճեին նրանք։ Այս ամենը պարզապես խաբեություն է և հորինված հնարամտություն, որը կոչ է անում բացառապես և տխուր կերպով գրավել թույլ մտքերը (օ՜, դա լրջորեն ցավում է): Անսովոր հովտի նկատմամբ ցանկացած ուշադրություն օդի անիմաստ շունչ է, և ինչ-որ մեկը պետք է գա և խնդրի սրտում դնի սուր փայտե տեսական ցից (որոշ հետազոտողներ փորձել են դա անել):

Քննարկման համար, եկեք գնանք հոսքի հետ և ենթադրենք, որ կա անսովոր հովիտ, և որ այն ընդհանուր առմամբ համընկնում է այն ամենի հետ, ինչ ես նշել եմ մինչ այժմ: Նրանք, ովքեր համաձայն չեն անսովոր հովտի կոնցեպտուալիզացիայի հետ, ողջունելի են դուրս գալ կամ շարունակել կարդալ ատամները սեղմած և իրենց մտավոր զայրույթը հասունանում և եռում (ներողություն դրա համար):

Ահա թե ինչպես են դրսևորվում էթիկական AI-ն և էթիկական AI-ի մշակման և կիրառման կենտրոնացումը: Ի դեպ, արհեստական ​​ինտելեկտի էթիկայի իմ շարունակական և խորը ուսումնասիրությունների համար տե՛ս իմ քննարկումը. այս հղումը Մականուն և այս հղումը Մականուն, պարզապես մի քանի անուն:

Անսովոր հովիտը միանշանակ սիրո-ատելության գործ է էթիկական արհեստական ​​ինտելեկտի մեջ մտնողների համար:

Նախ, որոշ անհրաժեշտ նախապատմություն: Արհեստական ​​ինտելեկտի հետ կապված էթիկական ամենասարսափելի անհանգստություններից մեկն այն է, որ մարդկանց կարելի է խաբել՝ հավատալով, որ AI համակարգը զգայուն է: Խնդրում ենք տեղյակ լինել, որ այսօր չկա որևէ արհեստական ​​ինտելեկտ, որը մոտ է զգալի լինելուն: Այս պահին դա պարզապես տեղի չի ունենում: Իմ իբր «լկտի» պնդումն արվում է չնայած այն անդադար և աղմկահարույց վերնագրերին, որոնք հայտարարում են այս AI-ի կամ այն ​​մասին, որ AI-ն կա՛մ զգայուն է, կա՛մ այնքան մոտ, որ այդպիսին համարվի: Մալարկի. Մենք արհեստական ​​ինտելեկտի տրամադրության տակ չենք:

Մենք չգիտենք, թե ինչպես հասնել այնտեղ: Մենք չգիտենք, արդյոք դա տեղի կունենա: Արհեստական ​​ինտելեկտի զգացողությունը արժեքավոր երազանք և ձգտում է, թեև մի ցատկեք ատրճանակից և մտածեք, որ մենք դրան հասնելու շեմին ենք:

Իհարկե, շատերը ջերմեռանդորեն նախազգուշացնում են, որ եթե մեզ ինչ-որ կերպ հաջողվի զարգացնել արհեստական ​​ինտելեկտի զգացումը, անկախ այն բանից՝ մենք դա անում ենք նախագծով, թե զուտ պատահականությամբ, մենք կբախվենք էքզիստենցիալ ռիսկի: Մտածողության նման ձևով, միգուցե AI-ի զգացում փնտրելը այնքան էլ արժանի չէ: Ռիսկը կայանում է նրանում, որ այս խելամիտ արհեստական ​​ինտելեկտը կարող է որոշել, որ մարդիկ արժանի չեն շրջապատում ունենալ: Մենք կարող էինք ճզմվել ինչպես վրիպակ: Կամ դառնալ AI-ի ստրուկը: Դա կարող է տեղի ունենալ, երբ AI-ն բացահայտորեն ընտրի դա անել, կամ AI-ն կարող է ի վերջո դառնալ մեր սեփական դատաստանի մեքենան, որը կործանում է մեզ մեր իսկ անճարակության պատճառով: Արհեստական ​​ինտելեկտի կամ եզակիության այդ մտահոգիչ արդյունքների մասին իմ լուսաբանման համար տե՛ս հղումն այստեղ.

Էթիկական AI-ի կարևոր մտահոգությունն այն է, որ AI-ի մշակողները և նրանք, ովքեր զբաղվում են AI-ով, երբեմն ստիպում են մարդկանց մտածել, որ AI-ն զգայուն է: Այն ձևը, թե ինչպես է AI-ն իրեն դրսևորում, օրինակ՝ ռոբոտային ձևակերպմամբ կամ նրա խոսակցական ինտերակտիվությամբ, կարող է նենգորեն դրդել մարդկանց ենթադրել, որ AI-ն զգայուն է: Սա իր հերթին ձեզ տանում է պոտենցիալ կեղտոտ գարնանածաղիկ ճանապարհով:

Եթե ​​դուք ընկնեք մտավոր թակարդը՝ մտածելով, որ AI համակարգը զգայուն է, դուք հավանաբար կհիմնվեք դրա վրա՝ անելու բաներ, որոնք կանեին խելացի էակները: Բայց այսօրվա AI-ի որևէ մեկի մեջ մարդանման որակի ներկառուցված որևէ ողջամտություն դեռևս չկա: AI-ն, որը մենք ներկայումս զգում ենք, չափազանց փխրուն է և մակերեսային, երբ խոսքը վերաբերում է մարդու նման կարողություններին: Դուք կարող եք հայտնվել անճաշակ և վտանգավոր ջրերում՝ հավատալով, որ AI համակարգը զգայուն է:

Ինչպե՞ս է դա կապվում անսովոր հովտի հետ:

Ահա գործարքը:

Հիշեք, որ անսովոր հովիտը, թվում է, մեզ ասում է, որ մարդկային մտերմությունը աստիճանաբար կբարձրանա, քանի որ արհեստական ​​ինտելեկտի համակարգը կամ ռոբոտը ավելի ու ավելի է մոտենում մարդու նման ձևակերպմանը: Այն պահին, երբ արհեստական ​​ինտելեկտի համակարգը մոտենում է բավականին մոտ լինելու կետին, բայց դեռ, ոչ այնքան, մենք սարսափելի զգացողություն ենք ունենում, որ ինչ-որ բան այն չէ: Մինչ այդ մենք գիտեինք, որ AI-ն մարդ չէ: Հիմա մենք վստահ չենք. Մեր մարդկային հարազատությունը նվազում է: Միայն այն բանից հետո, երբ AI-ն կամ ռոբոտը լիովին համոզիչ են դառնում մարդու նման կարողությունների հարցում, մենք վերականգնում ենք սարքի հետ կապված մեր նմանությունը:

AI ծրագրավորողները, որոնք կզբաղվեն այս սրտով, ենթադրաբար, կարող են դիտավորյալ ձգտեք իրենց արհեստական ​​ինտելեկտը հեռու պահել անսովոր հովտից՝ նպատակ ունենալով կանգ առնել արհեստական ​​ինտելեկտի առանձնահատկությունների առումով՝ անսովոր անդունդ ընկնելուց անմիջապես առաջ (հիշենք, դա նաև ընդգծել է Մասահիրո Մորին): Մշակողները, ըստ երևույթին, դա կանեին՝ համոզվելով, որ դեռևս գոյություն ունեն առատ պատմող հուշումներ՝ պարզորոշ դարձնելու համար, որ AI-ն ավելի քիչ զգայուն AI է և, հետևաբար, մարդ չէ կամ հավասարապես այդպես է:

AI էթիկայի մասնագետները, ընդհանուր առմամբ, ողջունում են այդ սրտանց ջանքերը:

Պատճառաբանությունը պարզ է. Այսքան տեղեկացված և AI ծրագրավորողները փորձում են համոզվել, որ AI համակարգը չի մոլորեցնի մարդկանց, որպեսզի կեղծ կերպով վերագրեն AI-ին մարդանման օբյեկտներ: Դա, անշուշտ, լավ նորություն է: Մշակողները միտումնավոր կստեղծեն արհեստական ​​ինտելեկտը, որպեսզի կանխեն սուզումը դեպի անսովոր հովիտ: Մարդիկ հեշտությամբ կհասկանան, որ AI-ն զգայուն չէ:

Փորձելով ստիպել AI ծրագրավորողներին ընդունել նման մոտեցում, հեշտ չէ: Իրոք, դա կարող է հակասել նրանց սովորական բնազդներին և մղելու հավակնություններին:

Բազմաթիվ պնդումներ են արվում, որ AI ծրագրավորողները և տեխնոլոգները, ընդհանուր առմամբ, սպառված են նպատակներով: Նրանք տեսնում են նպատակ և հաճախ կուրորեն մեծ եռանդով գնում են դրան: Ժամանակ չկա կանգ առնելու և վարդերը հոտոտելու համար: Դուրս գալ մրցավազքի, մենք գնում ենք: Արհեստական ​​ինտելեկտի ոլորտում նորմատիվ նպատակը կլինի իդեալականացված արհեստական ​​ինտելեկտը, որը չի տարբերվում մարդկանցից, քանի որ AI-ն կարող է խելամտորեն հավասար լինել հավասարաչափ: Բայց մենք դեռ այնտեղ չենք: Որպես այդպիսին, անսովոր հովիտը ապահովում է երկրորդական նպատակ՝ վայրէջք կատարելով այլապես պատնեշող անսովոր հովտի առջև և դառնում նպատակ, որը, այնուամենայնիվ, ընդունելի է: Իհարկե, դա ոսկե մատանին չէ, բայց գաղափարն այն է, որ այս «երկրորդական» մրցանակը լավ է, շատ շնորհակալ եմ, և դուք կարող եք հպարտանալ դրանով:

Մենք փոխել ենք կործանարար նպատակ փնտրելու գերագույն փառասիրությունը և այն օգտագործել տրամաբանական հիմնավորված հիմքի վրա՝ ճիշտ բան անելու համար, ասես,:

Ուռա!

Հաղթեք AI էթիկայի համար:

Բայց սպասեք մի վայրկյան, սփոյլերի զգուշացում, կա ևս մի բան, որը մենք պետք է հավասարապես հաշվի առնենք:

Այժմ, երբ ինտելեկտուալ ինտելեկտի այդ խելամիտ մշակողները գիտեն անսովոր հովտի մասին, նրանք կարող են իրենց խելքն ու տեխնոլոգիական հմտությունը շրջել դեպի անդունդը դիտավորյալ ցատկելու ուղղությամբ և, այնուամենայնիվ, դա անել՝ նկատի ունենալով խաբեության երևույթը: Դարձրեք AI-ի տեսքը և թվա, որ ամբողջովին նման է մարդուն, չնայած մշակողները գիտեն, որ դա իրականությանը չի համապատասխանում:

Սրիկայական մտածողությունը այսպես է ընթանում. Թույլ մի տվեք, որ ձեր արհեստական ​​ինտելեկտի համակարգն իր գլխարկը թեքվի և ստիպեց մարդկանց ձեռք բերել ահավորության այդ անհասանելի հոսանքը: Կտրեք այն կողմերը, որոնք կարող են որևէ ակնարկ կամ հուշում տալ, որ արհեստական ​​ինտելեկտը մարդկային հնարավորություններ չունի: Դա արեք՝ գաղտնի գիտակցելով և աններելիորեն իմանալով, որ արհեստական ​​ինտելեկտը մարդկային հնարավորություններ չունի, և այս ամենը վերաբերում է այդ ճշմարտությունը թաքցնելու այն մարդկանցից, ովքեր փոխազդում են կամ կախված են AI-ից:

Ի՜նչ սատանայական ծրագրեր։

Ճակատագրի հեգնանքով, անսովոր հովիտը կարող է մի տեսակ ահազանգ լինել արհեստական ​​ինտելեկտի մշակողների համար, որ եթե նրանք ցանկանում են իսկապես հիմարացնել մարդկանց, նրանք պետք է բավականաչափ խելացի լինեն՝ փախչելու անդունդից: Նրանք դա անում են ոչ թե ձեռք բերելով ամբողջական AI, այլ փոխարենը ծուխ և հայելիներ կանգնեցնելով, որպեսզի արհեստական ​​ինտելեկտը մոլորեցնող թվա, կարծես թե մարդ է: Եթե ​​արհեստական ​​ինտելեկտի մշակողները չհասկանային, որ այս անսովոր հովիտը գոյություն ունի, նրանք մեծ հաշվով կհայտնվեին դրա մեջ: Դա լավ է մարդկության համար, քանի որ մարդիկ, հետևաբար, կկորցնեն իրենց մտերմությունը արհեստական ​​ինտելեկտի նկատմամբ՝ չափից դուրս հույս չունենալու AI-ի այսօրվա որակի վրա:

Ցավոք սրտի, իմանալով, որ թակարդը գոյություն ունի, AI ծրագրավորողները, ովքեր ցանկանում են գաղտագողի շրջել դրա շուրջ, կգտնեն դա անելու կործանարար խելացի ուղիներ:

Գնահատեք Էթիկական AI-ի կանոններին:

Տեսնու՞մ եք, թե ինչպես է դա ստեղծում սիրո-ատելության հարաբերություններ արհեստական ​​ինտելեկտի էթիկայի մասնագետների համար անսովոր հովտում:

Անիծված է, եթե անես, անիծված, եթե չես անում:

Ես գիտակցում եմ, որ սա եղել է անսովոր հովտի մի փոքր բարձր հոնքերի ուսումնասիրություն, և դուք կարող եք ցանկանալ ամենօրյա օրինակներ: Կա մի հատուկ և վստահաբար սիրված օրինակների հավաքածու, որն ինձ հոգեհարազատ է: Տեսեք, որպես AI-ի փորձագետ, ներառյալ էթիկական և իրավական հետևանքները, ինձ հաճախ խնդրում են բացահայտել իրատեսական օրինակներ, որոնք ցույց են տալիս AI-ի էթիկայի երկընտրանքները, որպեսզի թեմայի տեսական բնույթն ավելի հեշտ ըմբռնվի: Ամենաոգեշնչող ոլորտներից մեկը, որը վառ կերպով ներկայացնում է այս էթիկական արհեստական ​​ինտելեկտի խնդիրը, AI-ի վրա հիմնված իսկական ինքնակառավարվող մեքենաների հայտնվելն է: Սա կծառայի որպես հարմար օգտագործման դեպք կամ օրինակ՝ թեմայի շուրջ լայն քննարկման համար:

Ահա մի ուշագրավ հարց, որի մասին արժե մտածել. Արդյո՞ք արհեստական ​​ինտելեկտի վրա հիմնված իսկական ինքնակառավարվող մեքենաների հայտնվելը որևէ բան լուսաբանում է անսովոր հովտի մասին, և եթե այո, ի՞նչ է դա մեզ տեղեկացնում անել:

Թույլ տվեք մի պահ բացել հարցը:

Նախ, նշեք, որ իրական ինքնակառավարվող մեքենայի մեջ մարդ վարորդ չկա: Հիշեք, որ իսկական ինքնակառավարվող մեքենաները վարում են AI վարորդական համակարգի միջոցով: Ղեկին մարդ վարորդի կարիք չկա, մեքենան վարելու համար մարդ չկա: Ինքնավար տրանսպորտային միջոցների (ԱՎ) և հատկապես ինքնակառավարվող մեքենաների իմ լայնածավալ և շարունակական լուսաբանման համար տե՛ս. հղումն այստեղ.

Ես կցանկանայի ավելի պարզաբանել, թե ինչ է նշանակում, երբ ես վերաբերում եմ իրական ինքնակառավարվող մեքենաներին:

Հասկանալով ինքնակառավարվող մեքենաների մակարդակները

Որպես պարզաբանում, իսկական ինքնակառավարվող մեքենաներն այն մեքենաներն են, որոնք AI- ն ամբողջովին ինքնուրույն է վարում մեքենան և մեքենայական առաջադրանքի ընթացքում մարդկային օգնություն չկա:

Այս առանց վարորդի տրանսպորտային միջոցները համարվում են 4-րդ և 5-րդ մակարդակներ (տե՛ս իմ բացատրությունը այս հղումը Մականուն), մինչդեռ մեքենան, որը մարդկային վարորդից պահանջում է համատեղ ջանքեր գործադրել, սովորաբար դիտարկվում է 2-րդ կամ 3-րդ մակարդակում: Մեքենաները, որոնք համատեղ կատարում են վարորդական առաջադրանքը, նկարագրվում են որպես կիսաինքնավար և սովորաբար պարունակում են մի շարք մեքենաներ: ավտոմատացված հավելումներ, որոնք կոչվում են ADAS (Վարորդների օգնության առաջադեմ համակարգեր):

5-րդ մակարդակում դեռ գոյություն չունի իսկական ինքնագնաց մեքենա, որը մենք դեռ չգիտենք, թե արդյոք դա հնարավոր կլինի հասնել, և ոչ էլ որքան ժամանակ կպահանջվի այնտեղ հասնելու համար:

Միևնույն ժամանակ, 4-րդ մակարդակի ջանքերը աստիճանաբար փորձում են որոշակի ձգողականություն ձեռք բերել՝ անցնելով շատ նեղ և ընտրովի հանրային ճանապարհային փորձարկումներ, թեև հակասություններ կան այն հարցի շուրջ, թե արդյոք այս թեստավորումն ինքնին պետք է թույլատրվի (մենք բոլորս փորձի մեջ կյանքի կամ մահվան ծովախոզուկներ ենք: ոմանք պնդում են, որ տեղի է ունենում մեր մայրուղիներում և ճանապարհների վրա, տես իմ լուսաբանումը այս հղումը Մականուն).

Քանի որ կիսաավտոմեքենաները մարդկային վարորդ են պահանջում, այդպիսի մեքենաների ընդունումը չի տարբերվի սովորական տրանսպորտային միջոցներից վարվելուց, հետևաբար, այս թեմայի շուրջ դրանց մասին ծածկելու համար ամենևին էլ նոր բան չկա (չնայած, ինչպես կտեսնեք մի ակնթարթում ընդհանուր առմամբ կիրառվում են հաջորդ կետերը):

Կիսաանվտանգ ավտոմեքենաների համար կարևոր է, որ հասարակությունը պետք է նախազգուշացվի վերջին շրջանում ի հայտ եկած անհանգստացնող կողմի մասին, մասնավորապես այն, որ չնայած այն մարդկային վարորդներին, ովքեր շարունակում են փակցնել իրենց տեսահոլովակները իրենց մասին, քնում են «Level 2» կամ «Level 3» մեքենայի ղեկին: , մենք բոլորս պետք է խուսափենք ապակողմնորոշվելուց `հավատալով, որ վարորդը կարող է իրենց ուշադրությունը հանել վարորդական առաջադրանքից` կիսաավտոմեքենան վարելիս:

Դուք պատասխանատու կողմն եք տրանսպորտային միջոցի վարման գործողությունների համար, անկախ նրանից, թե որ ավտոմատացումը կարող է տեղափոխվել 2-րդ մակարդակի կամ 3-րդ մակարդակի:

Ինքնավար մեքենաներ և անսովոր հովիտը

4-րդ և 5-րդ մակարդակների իսկական ինքնագնաց տրանսպորտային միջոցների համար վարորդական գործին չի մասնակցի մարդկային վարորդ:

Բոլոր գրավյալները ուղևորներ են լինելու:

AI- ն վարում է վարումը:

Անմիջապես քննարկելու մի ասպեկտ ենթադրում է այն փաստը, որ այսօր AI- ի վարման համակարգերում ներգրավված AI- ն զգայուն չէ: Այլ կերպ ասած, AI- ն ընդհանուր առմամբ համակարգչային ծրագրավորման և ալգորիթմների հավաքածու է, և, անկասկած, ի վիճակի չէ տրամաբանել այնպես, ինչպես մարդիկ կարող են:

Ինչու՞ է այս հավելյալ շեշտադրումը արհեստական ​​ինտելեկտի մասին զգացմունքային չէ:

Քանի որ ես ուզում եմ ընդգծել, որ երբ քննարկում եմ AI շարժիչ համակարգի դերը, ես մարդկային որակներ չեմ վերագրում AI- ին: Խնդրում ենք տեղյակ լինել, որ այս օրերին շարունակական և վտանգավոր միտում կա AI- ն մարդաբանելու համար: Ըստ էության, մարդիկ մարդկային նման զգացողություն են հատկացնում այսօրվա AI- ին, չնայած անհերքելի և անառարկելի փաստին, որ այդպիսի AI դեռ գոյություն չունի:

Այդ պարզաբանմամբ դուք կարող եք պատկերացնել, որ AI վարելու համակարգը բնիկ ինչ-որ կերպ «չի իմանա» վարման կողմերի մասին: Վարորդությունն ու դրա հետևանքները պետք է ծրագրավորվեն որպես ինքնակառավարվող մեքենայի սարքավորումների և ծրագրակազմի մաս:

Եկեք սուզվենք այն անհամար ասպեկտների մեջ, որոնք սկսում են խաղալ այս թեմայի շուրջ:

Նախ, կարևոր է գիտակցել, որ ոչ բոլոր ինքնակառավարվող AI մեքենաները նույնն են: Յուրաքանչյուր ավտոարտադրող և ինքնակառավարվող տեխնոլոգիական ընկերություն իր մոտեցումն է ցուցաբերում ինքնակառավարվող մեքենաների ստեղծման հարցում: Որպես այդպիսին, դժվար է լայնածավալ հայտարարություններ անել այն մասին, թե ինչ կանեն կամ չեն անեն AI վարորդական համակարգերը:

Ավելին, ամեն անգամ, երբ նշվում է, որ արհեստական ​​ինտելեկտի կառավարման համակարգը որոշակի բան չի անում, դա հետագայում կարող է շրջանցվել այն մշակողների կողմից, որոնք իրականում ծրագրավորում են համակարգիչը հենց դա անելու համար: Քայլ առ քայլ, արհեստական ​​ինտելեկտի շարժիչ համակարգերը աստիճանաբար բարելավվում և ընդլայնվում են: Այսօր գոյություն ունեցող սահմանափակումն այլևս գոյություն չի ունենա համակարգի ապագա կրկնության կամ տարբերակի դեպքում:

Հավատում եմ, որ բավականաչափ նախազգուշացում է ապահովում ՝ հիմք դնելու այն, ինչի մասին ես պատրաստվում եմ պատմել:

Այժմ մենք պատրաստ ենք խորը սուզվել ինքնակառավարվող մեքենաների և էթիկական AI հարցերի շուրջ, որոնք ենթադրում են անսովոր հովիտը:

Այս հարցի հետ կապված չորս ասպեկտներ կան, որոնք կքննարկվեն այստեղ.

1. Ինքնավար մեքենաների ընդհանուր տեսքը

2. Հարցը, թե ուր են «նայում» ինքնակառավարվող մեքենաները

3. Ինքնակառավարվող մեքենաների AI վարելու գործողություններ

4. Ռոբոտներ, որոնք վարում են որպես ինքնակառավարվող մեքենաներ ձեռք բերելու միջոց

Լրացուցիչ կողմերը նույնպես կենսունակորեն ընդգրկված են, բայց տիեզերական սահմանափակումների համար այս չորս թեմաները բավարար կլինեն անսովոր հովտի կրողությունը լուսավորելու համար՝ կապված AI-ի վրա հիմնված ինքնակառավարվող մեքենաների հետ:

1. Ինքնավար մեքենաների ընդհանուր տեսք

Խաղադրույք եմ կատարում, որ դուք տեսել եք նկարներ կամ տեսանյութեր այսօրվա ինքնակառավարվող մեքենաների փորձարկումներից: Որպես այդպիսին, դուք կարող եք նկատել, որ տրանսպորտային միջոցների մեծ մասը սովորական տեսք ունեցող մեքենաներ են, որոնք համալրված են լրացուցիչ մասնագիտացված սարքավորումներով: Օրինակ, կարող է լինել տանիքի դարակ, որը պարունակում է բազմաթիվ էլեկտրոնային սենսորներ: Սենսորները երբեմն ներառում են տեսախցիկներ, ռադարային միավորներ, LIDAR սարքեր, ուլտրաձայնային սենսորներ և այլն:

Ֆուտուրիստական ​​ձևավորումները հակված են հուշում, որ մենք կարող ենք հեռանալ սովորական տեսք ունեցող մեքենայից՝ փոխարենը վերափոխելու մեքենաները թե՛ ինտերիերի, թե՛ արտաքինի վրա, որպեսզի լինեն ավելի սլացիկ արտաքինով ինքնավար մեքենաներ: Հենց հիմա ընդհանուր մտածողությունն այն է, որ ավելի պարզ է օգտագործել սովորական մեքենաները և էներգիա չծախսել՝ փորձելով ձգձգել ջանքերը՝ միաժամանակ անսովոր տեսք ունեցող մեքենաների հետ խառնելով (այս ընդհանուր տեսակետից կան որոշ բացառություններ, տես իմ լուսաբանումը այստեղ՝ հղումն այստեղ).

Էությունը հենց հիմա այն է, որ եթե դուք մեքենա եք վարում ճանապարհի վրա և բախվում մոտակայքում գտնվող ինքնակառավարվող մեքենայի, գրեթե միշտ կարող եք անմիջապես նկատել, որ այն հավանաբար ինքնակառավարվող մեքենա է, պարզապես նկատելով ինքնավար մեքենայի վրա տեղադրված սենսորների մանրուքը: Սա արագ տեսողական նվեր է: Իհարկե, դուք հաստատ չգիտեք, որ դա ինքնին կառավարվում է, քանի որ այս պահին վարորդական կառավարումը սովորաբար դեռ անփոփոխ է, և ղեկին կարող է լինել մարդու պահուստային վարորդը:

Մտածողության մի ձևով կարող եք ենթադրել, որ հատկապես հարմար է, որ ինքնակառավարվող մեքենաները ֆիզիկապես առանձնանում են և հեշտությամբ տեսողականորեն նկատվում են մոտակա մարդկանց կողմից վարվող մեքենաների մարդկանց վարորդների և նաև մոտակայքում գտնվող հետիոտների կողմից: Այն գիտակցումը, որ մոտակայքում շրջում է ինքնակառավարվող մեքենան, կարող է օգտակար հուշում լինել ձեր հսկողության տակ լինելու համար, ինչը ձեզ հուշում է զգոն լինել և գիտակցել, որ AI-ն է կամ կարող է վարել մեքենան:

Ենթադրենք, որ ինքնակառավարվող մեքենաները նման են սովորական մարդկանց կողմից վարվող մեքենային: Սա իրատեսորեն իրագործելի է առնվազն երկու ճանապարհով. Նախ, սենսորները կարող են թաքնված լինել կամ ձևավորվել այնպես, որ այդքան ակնհայտ չլինեն պատահական տեսողական ստուգման համար: Երկրորդ, կարող է պատահել, որ բոլոր մեքենաները, ներառյալ սովորական մարդկանց կողմից կառավարվող մեքենաները, աստիճանաբար համալրվում են նման սենսորներով, նույնիսկ եթե մեքենան, այնուամենայնիվ, կմնա որպես հիմնականում մարդու կողմից ղեկավարվող մեքենա: Տես իմ հետագա լուսաբանումը այստեղ այս հղումը Մականուն.

Եթե ​​դուք ուշադրությամբ խորհեք այս նկատառման մասին, թե արդյոք ինքնակառավարվող մեքենաները կարող են կամ պետք է նույնական լինեն սովորական մարդկանց կողմից վարվող մեքենաներին, դուք կարող եք մտածել, որ այս խաշածի մեջ կարող է թաքնված լինել անսովոր հովիտ:

Տեսեք, մեքենաները, որոնք բացահայտորեն նման են ինքնակառավարվող մեքենաների, կարող են բնորոշվել որպես հանգուցակետում, որը քիչ է անսովոր հովտից: Հիմնականում դուք «գիտեք», որ դա ռոբոտ է կամ ռոբոտային համակարգ: Դա մի դատողություն է, որին կարող եք գրեթե անմիջապես ցատկել:

Երբ ինքնակառավարվող մեքենաները նույն ձևով նայում են մարդու կողմից կառավարվող մեքենաներին, թերևս դա հուշում է, որ ինքնավար մեքենաները ցատկել են անսովոր հովտի մոտով, քանի որ իրենց ռոբոտի տեսքը նման է: Այդ երկու ֆիզիկական երևույթների միջև կա՞ միջին ճանապարհ, որը մեզ տանում է անսովոր հովիտ:

Միգուցե դուք նկատում եք փողոցով իջնող ինքնակառավարվող մեքենա, և թվում է, թե այն հավանաբար ինքնակառավարվող մեքենա է, մյուս կողմից՝ արտաքինը ոչ խիստ ինքնավար տեսք ունի, ոչ էլ խիստ մարդկային տեսք ունի: Դուք կարող եք պնդել, որ ինքնակառավարվող մեքենան այժմ սարսափելի կամ անհանգիստ վիճակում է:

Ինքնավար մեքենան, իբր, ընկղմվել է անսովոր ձորը:

Այսպես ասած, ոչ բոլորը կհամաձայնեն այդ դասակարգման հետ: Ոմանք կպնդեն, որ ֆիզիկական տեսքը ոչ մի կապ չունի անսովոր հովտի հետ: Ոմանք, իհարկե, նաև պնդում են, որ գոյություն չունի որևէ բան, որը իրատեսորեն հայտնի է որպես անսովոր հովիտ:

Ինչպես նշվեց ավելի վաղ, դուք ողջունում եք այս հարցում ձեր սեփական որոշումը կայացնել:

2. Հարց, թե ուր են նայում ինքնակառավարվող մեքենաները

Մոտավոր անհանգստությունը, որ շատերն ունեն ինքնակառավարվող մեքենաների վերաբերյալ, այն է, որ նրանք սովորաբար վարորդի նստատեղում մարդկային վարորդ չունեն, և, հետևաբար, դժվար է պարզել, թե ուր է նայում «վարորդը» մեքենան վարելիս:

Դուք սովորաբար նայում եք մարդկանց վարորդներին՝ լրտեսելու համար, թե որտեղ են նրանք փնտրում: Օրինակ, դուք կարող եք հետիոտն լինեք հետիոտնի խաչմերուկում, և մեքենան մոտենում է անցմանը: Ուշադիր նայում ես վարորդի նստատեղին նստածին և փորձում հասկանալ, թե որտեղ է նրա գլուխը շրջված և ուր են նայում աչքերը: Եթե ​​կարծում եք, որ մարդ վարորդը տեսել է ձեզ, ապա ձեզ ավելի հարմար կլինի փողոցն անցնելը: Ի հակադրություն, եթե մարդ վարորդը ձեզ չի տեսել, դուք իրավամբ անհանգստանում եք անցնելու համար:

Որոշ քաղաքներում կա մի տեսակ կատվի և մկան մոլուցք այս ասպեկտների վերաբերյալ: Տվյալ քաղաքում որոշակի մշակութային նորմ կարող է լինել այն, որ եթե վարորդի հետ տեսողական կապ հաստատես, վարորդը «հաղթում է», և նա թվացյալ իրավունք ունի շարունակելու՝ անկախ վարորդական իրավիճակի օրինականությունից: Այլ քաղաքներում կարող են լինել բոլորովին հակառակը, այն է, որ մշակութային նորմն այն է, որ երբ աչքով կապ է հաստատվում, հետիոտնը «հաղթում է», իսկ մարդ վարորդը պետք է հետաձգի հետիոտնի գործողությունները:

Մենք, կարծես, որդեգրել ենք այս սովորույթը համեմատաբար երկար ժամանակ, երբ մեքենաները գտնվում էին մեր քաղաքների և համայնքների մեջ: Ինքնավար մեքենաների առաջացման խնդիրն այն է, որ վարորդի նստատեղում մարդ վարորդ չկա, և, հետևաբար, ցանկացած հետիոտն կամ մոտակայքում գտնվող մարդ վարորդ, որը սովորաբար օգտագործում է մեքենաների վարորդների գլուխն ու աչքերը որպես վարելու մտադրության մշակութային ցուցանիշ, այժմ կա: բախտից.

Ավտոարտադրողները և ինքնակառավարվող մեքենաների մշակողները քաջատեղյակ են այս առաջացող խնդրի մասին: Առաջարկվող լուծումներից մեկն այն է, որ ինքնակառավարվող մեքենան թարթում է ինքնավար մեքենայի լուսարձակները կամ, հնարավոր է, թարթում է ազդանշանը: Մեկ այլ պատկերացում այն ​​է, որ ինքնակառավարվող մեքենան կարող է ունենալ բարձրախոսի տարբերակ և պատմել մոտակայքում գտնվողներին, թե որոնք են AI վարորդական համակարգի «մտադրությունները»: Այդ գաղափարներից յուրաքանչյուրն ունի զգալի բացասական կողմեր:

Այնուամենայնիվ, մեկ այլ առաջարկ ենթադրում է անել մի բան, որը դուք սկզբում կարող եք ծիծաղելի համարել: Առաջարկը բաղկացած է ինքնավար մեքենայի արտաքին մասում ակնագնդի նման գնդիկների տեղադրումից: Այս գնդերը մոտավորապես նման են մարդու աչքերին՝ ի վիճակի են պտտվել ետ ու առաջ, ինչը ցույց է տալիս, որ արհեստական ​​ինտելեկտը «տեսել է ձեզ» (դուք դա կմեկնաբանեք ակնագնդերով, որոնք նայում են ձեր կոնկրետ ուղղությամբ): Ես վերլուծել եմ այս մոտեցումը հղումն այստեղ.

Ինչպիսի՞ն կլիներ ձեր արձագանքը, երբ տեսնեիք, թե ինչպես է ինքնակառավարվող մեքենան իջնում ​​ճանապարհի երթևեկելի հատվածով և, երբ գլխարկի կամ տանիքի վրա երևում են այս արտառոց ակնագնդիկները:

Ենթադրում եմ, որ դուք կարող եք մտածել, որ դա սարսափելի է, գուցե սահմռկեցուցիչ:

Ոմանք կարող են ենթադրել, որ ահավորությունը ծագում է այն բանից, որ սարքավորված ինքնակառավարվող մեքենան գտնվում է անսովոր հովտում: Մյուսները կատաղի կերպով կպնդեն, որ դա ոչ մի կապ չունի անսովոր հովտի հետ: Այդպիսի փորձագետներից ոմանք կասեն, որ կա մի ահավորություն, որը կարող է ահավոր լինել՝ առանց անսովոր հովտում արմատավորվելու (այսինքն՝ անսովոր հովիտը կարծես միշտ ահավորություն է առաջացնում, բայց ոչ բոլոր ահավորներն են առաջանում բացառապես անսովոր հովտում): Մյուս տեսանկյունն այն է, որ գնդերը կարող են ենթադրաբար նախագծվել այնպես, որ ավելի քիչ ակնագնդի տեսք ունենան և ավելի ռոբոտային տեսք ունենան, կամ որ մենք բոլորս անխուսափելիորեն կընդունենք այդ գնդերի տեսքը, և նախնական ցնցող ռեակցիան կթուլանա:

3. Ինքնավար մեքենաների AI Driving Actions

Ինքնավար մեքենաների այսօրվա փորձարկումներից շատերը ցույց են տվել, որ գոյություն ունեցող արհեստական ​​ինտելեկտի վարորդական համակարգերը ծրագրված են վարելու բավականին մեղմ և որոշակիորեն խստորեն պահպանվող օրինական եղանակներով: AI վարորդական համակարգը սովորաբար կանգ է առնում ինքնակառավարվող մեքենան կանգառի նշանների վրա: AI վարորդական համակարգը չի անում համարձակ վազքներ խաչմերուկներով, երբ երթեւեկության ազդանշանն անխուսափելիորեն կարմիր է լինելու: Այս կամակոր վարորդական պրակտիկաները մարդկային վարորդների մարզն են:

Խոսելու ձևով դուք կարող եք գրեթե կռահել, որ ինքնակառավարվող մեքենան ինքնակառավարվող մեքենա է այն վարելու ոճով, որը ցուցադրում է: Նույնիսկ եթե ինքնավար մեքենան տեսողականորեն սովորական մարդավարի մեքենա է, դուք կարող եք դիտարկել վարման գործողությունները և գուցե տրամաբանորեն եզրակացնել, որ այն հավանաբար վարում է AI համակարգ:

Ոմանք կարծում են, որ մենք պետք է այնպես անենք, որ արհեստական ​​ինտելեկտի վարորդական համակարգերն ավելի նման լինեն մարդ վարորդների չարաճճիություններին, որպեսզի դրանք արդյունավետ կերպով միաձուլվեն վարելու նորմատիվ մոտեցումներին: Ենթադրում եմ, որ դուք կարող եք դա մեկնաբանել որպես կրակի դեմ պայքար:

Արդյո՞ք դա իմաստ ունի անել:

Ուշադիր եղեք, որ բացահայտ թերահավատներն ու քննադատները զզվում են այդ գաղափարից: Նրանք համառորեն կպնդեն, որ մենք ցանկանում ենք, որ արհեստական ​​ինտելեկտի շարժիչ համակարգերը վարեն պատշաճ և նրբագեղ վարում: Հնարավոր միլիոնավոր ինքնակառավարվող մեքենաների ավելացումը ճանապարհներին, որոնք ծրագրված են նմանվելու մոլորված մարդկանց վարորդների, հսկայական մղձավանջ կթվա: Ես քննարկել եմ այս վիճելի առաջարկը հղումն այստեղ.

Եկեք վերաձեւակերպենք երկընտրանքը՝ օգտագործելով անսովոր հովիտը:

Երբ արհեստական ​​ինտելեկտի վարորդական համակարգը խիստ օրինական է իր վարորդական գործողություններով, սա թերևս հուշում է, որ այն հավանաբար ռոբոտային համակարգ է (չնայած մարդկային վարորդներին, որոնք, իհարկե, դա անում են, թեև այսօրվա աշխարհում նրանք շատ քիչ են թվում): Եթե ​​AI վարորդական համակարգերը պետք է վարեն նույնքան տարօրինակ, որքան մարդկային վարորդները, սա ցատկե՞լ է անսովոր հովտով, թե՞ ընկնում է անսովոր հովիտը:

Մտածեք այդ մասին:

4. Ռոբոտներ, որոնք վարում են որպես ինքնակառավարվող մեքենաներ ձեռք բերելու միջոց

Ծածկույթի այս վերջին կետը այս չորսից ամենասարսափելին է:

Դուք կարող եք ամբողջովին անտեղյակ լինել, որ արհեստական ​​ինտելեկտի որոշ ծրագրավորողներ փորձում են ստեղծել ռոբոտներ, որոնք կարող են մեքենաներ վարել: Ռոբոտը տարբեր առումներով նմանվելու է մարդու՝ ունենալով ռոբոտացված ոտքեր և ռոբոտ ձեռքեր որպես վերջույթներ: Երբ դուք ցանկանում եք, որ ցանկացած սովորական մարդատար մեքենա լինի ինքնակառավարվող մեքենա, դուք պարզապես տեղադրում եք այս մասնագիտացված AI վարորդական ռոբոտը ձեր մեքենայի վարորդի նստատեղում: Տե՛ս այս հասկացության իմ վերլուծությունը հղումն այստեղ.

Ինչո՞ւ ենք մենք ցանկանում վարել ռոբոտներ:

Նման ռոբոտի գեղեցկությունը կայանում է նրանում, որ այսօրվա մարդկանց կողմից ղեկավարվող բոլոր մեքենաները կարող են մեկնաբանության ձևով դառնալ ինքնակառավարվող մեքենաներ՝ գրեթե մեկ գիշերվա ընթացքում: Դուք պարզապես գնում եք, վարձակալում կամ ինչ-որ կերպ ձեզ վարորդական ռոբոտ եք ստանում: Դուք ռոբոտին դնում եք ձեր վարորդի նստատեղին, երբ գնում եք մեքենա վարելու: Ռոբոտը ձեզ տանում է դեպի ձեր նպատակակետը: Եթե ​​ցանկանում եք անցնել մարդկանց մեքենա վարելու, ռոբոտը հանում եք մեքենայից, միգուցե դրեք այն բեռնախցիկի մեջ՝ հետագայում օգտագործելու համար:

Այսօր Միացյալ Նահանգներում կա մոտ 250 միլիոն սովորական ավտոմեքենա: Ոմանք կարծում են, որ դրանք ի վերջո կկործանվեն, քանի որ ինքնակառավարվող մեքենաները կհայտնվեն: Սովորական մեքենաները ջնջելու փոխարեն, գուցե մենք փորձենք դրանք վերազինել՝ դառնալով ինքնակառավարվող մեքենաներ, թեև սա, հնարավոր է, բավականին ծախսատար գաղափար է: Թվացյալ ավելի խելամիտ մոտեցումը կլինի վարորդական ռոբոտներին հասանելի դարձնելը:

Եթե ​​տեսնեիք սովորական արտաքինով մեքենա, որը իջնում ​​է ձեր թաղամասի փողոցով, և դրա ղեկին ռոբոտ լիներ, ինչպիսի՞ն կլիներ ձեր արձագանքը:

Հավանաբար ահավոր.

Անշուշտ վիճելի պնդումներից մեկն այն է, որ այս սարսափելիությունը պայմանավորված է սովորական մեքենա վարող ռոբոտով, որը իջնում ​​է հայտնի կամ տխրահռչակ անսովոր հովտում:

Եզրափակում

Արհեստական ​​ինտելեկտի էթիկական տեսանկյունից անսովոր հովիտը ներկայացնում է ինտրիգային հանելուկ:

Արհեստական ​​ինտելեկտում կան ոմանք, որոնք լիովին հավատում են անսովոր հովտին, իսկ ոմանք՝ ոչ: Բայց անկախ նրանից՝ հավատում եք անսովոր հովտին, թե դա չեք անում, այնուամենայնիվ, թեման ինքնին շրջափակված է: Դուք չեք կարող թաքցնել ձեր գլուխը և ձևացնել, որ կոնստրուկցիան ինքնին գոյություն չունի: Կոնստրուկտը, որպես գաղափար, ապրում է և ինչ-որ տեսքով վիրուսային հզոր է: Ատեք կամ սիրեք այն, անիծված կամ գուցե վեհ թեման շարունակվում է:

Համաձայն իմ նախկին դիսկուրսի մասին անսովոր հովտի արժանիքների մասին AI-ի էթիկայի տեսանկյունից, այնտեղ կա մենամարտ սիրո և ատելության հարաբերություններ: Արդյո՞ք էթիկական արհեստական ​​ինտելեկտի ոլորտում գտնվողները պետք է ընդունեն անսովոր հովիտը, կամ համառոտ մերժեն անսովոր հովիտը, կամ որոշ չափով չեզոք մնան ճշմարտության նկատմամբ և փոխարենը կենտրոնանան ազդեցության վրա, որն առաջանում է դրա վերաբերյալ շարունակական տարբերվող համոզմունքների պատճառով:

Այս մարտահրավերը առաջ է բերում ականավոր տնտեսագետ Ադամ Սմիթին, ինչպես նա մի անգամ ասել է (վերափոխելով), որ թերահավատության քաղաքից ճանապարհին դուք պետք է անցնեք երկիմաստության հովտով: