Արհեստական ​​ինտելեկտի էթիկան դիմակայել այն բանին, թե արդյոք զայրացած մարդկանց, ովքեր դաժանորեն ջարդում կամ վատ են վերաբերվում AI-ին, տագնապալի անբարոյական է, ինչպես, օրինակ, այն զայրացած մարդիկ, որոնք հարվածում են լիովին ինքնավար AI համակարգերին:

Դրա համար մենք չենք կարող գեղեցիկ բաներ ունենալ։

Դուք հավանաբար լսել կամ տեսել եք այդ բավականին տարածված արտահայտությունը և անմիջապես գիտեք, թե ինչի մասին է այն ակնարկում: Հավատում եք, թե ոչ, իմաստուն իմաստության խելացի կտորը կարծես թե սկիզբ է առել առնվազն 1905 թվականին, երբ նմանատիպ արտահայտություն հայտնվեց. Մարդասիրական ակնարկ Էլիզա Բլվենի կողմից։ Ընդհանրապես, խորաթափանցության էությունը կայանում է նրանում, որ երբեմն մենք ի վերջո ջարդում, հարվածում, ջարդում կամ ընդհանրապես փչացնում ենք առարկաներ կամ արտեֆակտներ, որոնք այլապես արժանի չեն նման վերաբերմունքի:

Դուք կարող եք ասել, որ մենք երբեմն վատ վերաբերմունք առարկաներ և արտեֆակտներ, նույնիսկ այնպիսիք, որոնք մենք իբր պաշտել կամ թանկ ենք գնահատել:

Դա կարող է պատահական լինել, օրինակ՝ անզգույշ լինելը և ձեր սիրելի սմարթֆոնը կոմոդի մեջ գցելը (ցավոք, սա սմարթֆոնների անօգտագործելի դառնալու ամենահաճախ հիշատակված եղանակներից մեկն է): Մյուս կողմից, թերևս զայրույթի ժամանակ, դուք նախընտրում եք ձեր սմարթֆոնը նետել սենյակի միջով, և այն հարվածում է մեծ կահույքի կամ խոյերի մեջ ուղղակիորեն պատի մեջ: Հավանականությունն այն է, որ էկրանը ճեղքվի, և էլեկտրոնային աղիքներն այլևս պատշաճ կերպով չեն գործի:

Զայրույթի այդ նոպաը ինքնին ոչ մի կապ չէր կարող ունենալ սմարթֆոնի հետ: Միգուցե դուք վիճում էիք ինչ-որ մեկի հետ և պատահաբար հանեցիք ձեր զայրույթը այն բանի վրա, որ այդ պահին ձեր ձեռքում էր: Սմարթֆոնը պարզապես սխալ տեղում էր սխալ պահին:

Այնուամենայնիվ, կան դեպքեր, երբ առարկան ինչ-որ կերպ կապված է կատաղի պոռթկումի հետ: Օրինակ, դուք հուսահատ սպասում եք կարևոր զանգի, և ձեր սմարթֆոնը զարմանալիորեն դադարում է աշխատել: Ի՜նչ հիասթափություն։ Այս անիծված այսինչ սմարթֆոնը միշտ թվում է, թե ամենավատ պահերին դուրս է գալիս, կարծում եք ինքներդ: Դե, դժբախտաբար, սմարթֆոնը պատրաստվում է վճարել այս վերջին օրինազանցության համար՝ համառոտ նետվելով սենյակից մեկ: Վերցրեք դա, դուք լավ սմարթֆոն չեք:

Արդյո՞ք զայրույթը միշտ պետք է բաղադրիչ լինի:

Հավանաբար, դուք հանգիստ որոշել եք, որ ձեր սմարթֆոնը հասել է իր օգտագործման ավարտին: Դուք պատրաստվում եք նորը ձեռք բերել: Այսպիսով, գոյություն ունեցող սմարթֆոնն ունի նվազած արժեք։ Դուք, իհարկե, կարող եք փորձել փոխանակել փոքր-ինչ հնացած սմարթֆոնը, բայց գուցե դրա փոխարեն գիտակցված որոշում կայացնեք, որ կնախընտրեիք զվարճանալ և տեսնել, թե որքան ֆիզիկական նվաստացում կարող է դա պահանջել: Այսպիսով, մանրակրկիտ պատճառաբանելուց հետո դուք սրընթաց շպրտում եք սարքը սենյակով մեկ և հետևում, թե ինչ է տեղի ունենում: Սա ընդամենը մի տեսակ ֆիզիկայի փորձ է, որը թույլ է տալիս չափել, թե որքան լավ է պատրաստված սմարթֆոնը:

Ես կասկածում եմ, որ մեզանից շատերն օգտագործում են այդ կարգի մանրակրկիտ կարգավորվող տրամաբանությունը, երբ մենք ագրեսիան ենք հանում որևէ առարկայի կամ արտեֆակտի վրա: Ավելի հաճախ, արարքը, հավանաբար, կատարվում է այլ մտքի շրջանակներում: Թվում է, թե սա այն հրատապ ռեակցիոն տեսակի գործողություններից մեկն է: Դրանից հետո դուք կարող եք զղջալ ձեր արածի համար և խորհել, թե ինչն է հանգեցրել նման պոռթկման:

Ի՞նչ է մեզ պոտենցիալ պատմում անշունչ առարկայի նկատմամբ նման կատաղի գործողությունը այն մարդու մասին, ով ձեռնարկում է նման լկտի և թվացյալ անվայել գործողություն:

Օբյեկտն ինքնին, ենթադրաբար, միտումնավոր չի փորձում ձեզ խաբել: Երբ թոնրիդ հացը պատշաճ կերպով չի թոստում, դժվար է պատկերացնել, որ հացը հացի տորթը արթնացել է այն մտքով, որ կփորձի փչացնել նախաճաշդ՝ այրելով քո կենացը: Սա մի քիչ քիչ հավանական է։ Տոստերը պարզապես մեխանիկական սարք է։ Աշխատում է, թե չի աշխատում: Բայց այն միտքը, որ թոնիրը խորամանկում էր չաշխատել կամ արագ դնել ձեզ վրա՝ աշխատելով ձեր ցանկություններին հակառակ, լավ, դա տարածված հասկացություն է:

Կան ոմանք, ովքեր կարծում են, որ բոլոր առարկաները կարմայի կամ ոգու նմանություն ունեն: Այդ տեսության մեջ կարելի է ենթադրել, որ թոնիրը կարող է վրեժխնդիր լինել, եթե դուք, հավանաբար, նախկինում պատշաճ կերպով խնամած չլինեիք թոնրի համար: Չնայած դա հետաքրքիր փիլիսոփայական գաղափար է, ես պատրաստվում եմ շրջանցել այդ մետաֆիզիկական հայեցակարգը և մնալ ավելի առօրյա ենթադրության հետ, որ առարկաները պարզապես առարկաներ են (պարզաբանման համար ես որոշում չեմ առաջարկում մյուս հնարավորության մասին, պարզապես մի կողմ եմ դնում այն այն պահը).

Կարմայի կամ ոգու մասին այս կողմը շոշափողն արժանի էր, քանի որ վեր է հանում մարդկային վարքագծի հետ կապված մի կողմ: Տեսեք, մենք կարող ենք գայթակղվել աշխուժության ձև վերագրել այն առարկաներին, որոնք ավելի մոտ են նրան, ինչ մենք սովորաբար համարում ենք զգայական:

Տասը դոլար արժողությամբ տոստերը, որը սնուցող սարք է, հազիվ թե մենք հակված լինենք օծելու զգացմունքային աուրայով: Դուք կարող եք դա անել, եթե ցանկանայիք, բայց սա ձգվում է: Դուք կարող եք նաև սկսել զգայունություն վերագրել բոլոր տեսակի առարկաներին, ինչպիսիք են աթոռը, լույսի սյունը, հրշեջ հիդրանտը և այլն: Թվում է, որ առարկան պետք է ունենա ավելի բնածին հնարավորություններ, եթե մենք պատրաստվում ենք «խելամտորեն» նշանակել զգայարան: -ինչպես իրի փայլը:

Երբ դուք օգտագործում եք Alexa-ն կամ Siri-ն, սարքն ինքնին պարզապես բարձրախոս և խոսափող է, սակայն այս ժամանակակից հարմարությունը, անշուշտ, կարող է ավելի լավ թեկնածու լինել զգալի ուժեր վերագրելու համար: Դուք, ըստ երևույթին, կարող եք շփվել սարքի հետ և շարունակել զրույցը, թեև, անշուշտ, խառնաշփոթ է և զուրկ է նորմալ մարդու վրա հիմնված փոխազդեցություններից: Այդուհանդերձ, Alexa-ին կամ Siri-ին թույլ տալը առանձնահատուկ դյուրինություն է, որպեսզի սայթաքեն դեպի զգացմունքային նշանակման հնարավորությունը (տես իմ ցուցումը վերջին դեպքի մասին, երբ Alexa-ն խորհուրդներ է տվել էլեկտրական վարդակից մի կոպեկ դնելու մասին, ժ. այս հղումը Մականուն).

Ենթադրենք, մենք զարդարում ենք թոնիրը բնական լեզուների մշակման (NLP) նմանությամբ, որը նման է Alexa-ին կամ Siri-ին: Դուք կարող եք խոսել ձեր տոստերի հետ և ասել, թե ինչ քանակությամբ եք ցանկանում այն ​​անել: Տոստերը կարձագանքի ձեր խոսքին, այնուհետև կասի, երբ կենացը պատրաստ է: Թվում է, թե սա վերափոխում է մեր համոզմունքը, որ տոստերն իրականում մոտենում է զգացմունքային կարողությանը:

Որքան ավելի մոտենանք սարքի առանձնահատկությունները դեպի մարդկային օբյեկտների բնութագրերը, նույնքան էլ մեզ կառաջնորդի դեպի սարքին զգայուն հատկություններ վերագրելու ճանապարհը: Դրանցից ամենաակնհայտը ռոբոտներն են լինելու: Ցանկացած ժամանակակից քայլող և խոսող ռոբոտ կարող է առաջացնել մեր ներքին տպավորությունը, որ սարքն ավելին է, քան զուտ մեխանիկական կամ էլեկտրոնային հնարք:

Թույլ տվեք ձեզ մի հարց տալ և խնդրում եմ անկեղծորեն պատասխանել։

Նախքան դա անելը, ես ենթադրում եմ, որ դուք ինչ-որ կերպ տեսել եք վիրուսային տեսանյութերը, որոնք ցուցադրում են բավականին շքեղ ռոբոտներ, որոնք կարող են քայլել, սողալ, թռչկոտել կամ վազել: Այդ տեսանյութերից մի քանիսում մարդ է կանգնած մոտակայքում, և սկզբում կարծես պատրաստ է բռնել ռոբոտին, եթե նա սայթաքի: Ես գրազ կգամ, որ մեզանից շատերը դա համարում են բարյացակամ արարք, ինչպես, երբ փոքրիկը սովորում է քայլել և այնտեղ է, որ բռնի փոքրիկին, նախքան նա գլուխը խփեց հատակին:

Այնուամենայնիվ, դուք հազվադեպ եք տեսնում, թե ինչպես են մարդիկ բռնում ռոբոտներին, և փոխարենը տեսնում եք, թե ինչպես են մարդիկ հարվածում ռոբոտներին, որպեսզի տեսնեն, թե ինչ է անելու ռոբոտը հետո: Երբեմն օգտագործվում է երկար փայտիկ, գուցե հոկեյի փայտ կամ բեյսբոլի մահակ: Մարդը դիտավորյալ և առանց որևէ ամաչելու հարված կհասցնի ռոբոտին: Ռոբոտը հարվածում է, կարելի է վիճել, և մենք սպասում ենք, թե ինչպես կարձագանքի ռոբոտը:

Ահա ձեր հարցը.

Երբ տեսնում եք, թե ինչպես է ռոբոտը արագորեն հարվածում, վա՞տ եք զգում ռոբոտի համար:

Շատ մարդիկ անում են: Երբ առաջին անգամ սկսեցին հրապարակվել նման տեսանյութեր, հազարավոր մեկնաբանություններ արտահայտեցին զայրույթը ռոբոտների նկատմամբ վատ վերաբերմունքի վերաբերյալ: Ի՞նչ արեց ռոբոտը, որ արժանանար այս տեսակի անբարենպաստ չարաշահման, մարդիկ ջերմեռանդորեն հարցրին: Ոմանք վրդովված հայտարարեցին, որ այդ մարդկանց պետք է դուրս հանել և մի քանի ոտքով հարվածել: Դադարեցրեք սա և աղմկոտ կերպով ջնջեք նման տեսանյութերը:

Դուք կարող եք հեշտությամբ զգալ նույնը տասը դոլարանոց barebones հացաթխման համար, սակայն այն, հավանաբար, չի առաջացնի նույն ներքին և ցնցող մտահոգությունները: Թվում է, թե ինչքան օբյեկտը մոտենա միանգամայն անշունչ առարկայի սպեկտրում, որը նման չէ մարդկային կարողություններին այն առարկաների նկատմամբ, որոնք ավելի շատ նման են մարդկային զգացողությանը, կվատթարացնի մեր զգայնությունը՝ ցանկանալով վերագրել այդ օբյեկտին մարդասիրական բարոյականություն: .

Եկեք ավելի բացահայտենք դա:

Եթե ​​դուք ունեք սմարթֆոն և ցանկանում եք կոտրել այն, և եթե դա չվնասի որևէ մեկին, ապա թվում է, որ մենք բարոյապես շատ քիչ առարկություն կունենանք նման արարքի դեմ: Դուք դրա սեփականատերն եք, դուք կարող եք անել այն, ինչ ցանկանում եք (ենթադրելով, որ արարքը չի ազդում ուրիշների վրա):

Իհարկե, մենք կարող ենք համարել, որ դա հիմարություն է ձեր կողմից, և դա կարող է հետևանք ունենալ: Եթե ​​պատրաստ եք ոչնչացնել ձեր սմարթֆոնը, էլ ի՞նչ կարող եք անել: Թերևս կործանարար և անիմաստ թվացող արարքը նախազգուշացում է ձեր ներսում գտնվող ինչ-որ բանի մասին շատ ավելի վատ ներուժի մասին: Այդ մտածելակերպով մենք այնքան էլ մտահոգված չենք սմարթֆոնի համար, որքան այն, թե ինչպես են սմարթֆոնի հետ կապված ձեր գործողությունները արտացոլում ձեր և ձեր վարքագիծը:

Մարդկանց դեպքում, ովքեր խփում և հրում են քայլող կամ սողացող ռոբոտներին, դուք հավանաբար կհանգստանաք, երբ հայտնաբերում եք, որ այդ մարդիկ փորձարարներ են, որոնք վարձատրվում են կամ այլ կերպ պրոֆեսիոնալ կերպով հարվածում են ռոբոտներին ընդհանուր հիմնավոր պատճառներով: Նրանք փորձում են տեսնել, թե ռոբոտը և ռոբոտի հիմքում ընկած արհեստական ​​ինտելեկտը որքանով կարող են հաղթահարել խանգարող իրադարձությունները:

Պատկերացրեք, որ ինչ-որ մեկը գրել է AI ծրագիր, որը կօգնի ռոբոտին քայլել կամ սողալ: Նրանք տրամաբանորեն կցանկանային իմանալ, թե որքան լավ է AI-ն աշխատում, երբ ռոբոտը մոլորվում է և սայթաքում ինչ-որ բանի վրա: Կարո՞ղ է ռոբոտը հավասարակշռել ինքն իրեն կամ վերաբալանսավորել ըստ անհրաժեշտության: Մարդկանց մոտակայքում ունենալով, ռոբոտները կարող են փորձարկվել՝ հարվածելով կամ հրելով: Այդ ամենը գիտության անվան տակ է, ինչպես ասում են։

Երբ հասկանաք այդ նախազգուշացումը այն մասին, թե ինչու են մարդիկ «վատ են վերաբերվում» ռոբոտներին, դուք հավանաբար կհանեք ձեր զայրույթը: Հնարավոր է, որ դուք դեռ երկար անհանգստություն ունեք, քանի որ տեսնելը, թե ինչպես են հարվածում մարդու նման կառուցվածքը, հիշեցնում է մարդկանց կամ կենդանիների հարվածները: Թեև դուք գիտեք, որ ռոբոտը ոչինչ չի «զգում», սակայն գործողությունները դեռևս որոշակիորեն ցավալի են դիտելու համար (ավելի շատ տեղեկությունների համար մարդկանց մոտ ինտելեկտուալ արհեստական ​​ինտելեկտի համակարգերի նկատմամբ, ինչպիսիք են ռոբոտները, ներառյալ անսովոր երևույթը»: valley, տես իմ քննարկումը այս հղումը Մականուն).

AI-ի էթիկայի ոլորտի մարդիկ ուսումնասիրում են բարոյահոգեբանական հանելուկը, որը մենք զգում ենք, երբ AI համակարգերին դաժան են վերաբերվում: Ամենակարևոր մտահոգություններից մեկն այն է, որ նրանք, ովքեր նման «վատ վերաբերմունք» են անում, կարող են ստիպել մեզ բոլորիս լինել ավելի քիչ զգայուն բոլոր տեսակի վատ վերաբերմունքի նկատմամբ, ներառյալ և վտանգավոր է մերձավորների նկատմամբ վատ վերաբերմունք ցուցաբերելու պատրաստակամության սայթաքունը:

Վերջին հետազոտական ​​ուսումնասիրության մեջ, որը հրապարակվել է AI և էթիկայի ամսագիր «Սոցիալ-ճանաչողական կողմնակալությունները ժողովրդական արհեստական ​​ինտելեկտի և ռիսկի դիսկուրսում» վերնագրով հետազոտողները սթափեցնող հարցն այսպես են նկարագրում. «Նույն երևույթը կարող է բարոյահոգեբանական խնդիր դառնալ AI-ների և ռոբոտների ժամանակաշրջանում: Երբ մեր առօրյա իրականությունը բնակեցված է տարբեր խելացի համակարգերով, որոնք չունեն բարոյական համբերության կարգավիճակ, մարդիկ կարող են վարժվել դաժանությանը և անտարբերությանը: Քանի որ մենք երբեմն մտածում ենք ռոբոտների մասին, ասես նրանք կենդանի և գիտակից լինեին, մենք կարող ենք անուղղակիորեն ընդունել վարքի ձևեր, որոնք կարող են բացասաբար ազդել այլ մարդկանց հետ մեր հարաբերությունների վրա» (հոդվածի համահեղինակ՝ Մայքլ Լաակասուո, Վոլո Հերզոն, Սիլվա Պերանդեր, Մարիաննա Դրոսինուն, Ջուկկա։ Սունդվալ, Յուսի Պալոմակի և Ակու Վիսալա):

Հիմնական բանն այն է, որ մենք կարող ենք անխուսափելիորեն ընդունել, որ վատ վերաբերմունքը բավականին լավ է ձեռնարկել, անկախ նրանից, թե արդյոք այնպիսի առարկայի նկատմամբ, ինչպիսին է արհեստական ​​ինտելեկտի վրա հիմնված ռոբոտը, թե կենդանի շնչող մարդ: Այս ցանկին կարող եք ավելացնել նաև կենդանիների նկատմամբ վատ վերաբերմունքի ավելացման հնարավորությունը: Ընդհանուր առմամբ, վատ վերաբերմունքի սողանցքը կարող է լինել ցունամի, որը վտանգավոր կերպով կջարդի այն ամենն, ինչ մենք անում ենք:

Դյույմ առ դյույմ մենք ընտելանալու ենք արհեստական ​​ինտելեկտի համակարգերի վատ վերաբերմունքին, և դա իր հերթին դյույմ առ դյույմ կնվազեցնի մեր բոլոր ասած վատ վերաբերմունքը:

Սա էթիկական AI տեսություն է, որը մանրակրկիտ ուսումնասիրվում է: Սա հատկապես արդիական է հիմա, քանի որ արհեստական ​​ինտելեկտի համակարգերը, որոնք մշակվում և մշակվում են, ավելի շատ նման են մարդկային կարողություններին, քան երբևէ: Արհեստական ​​ինտելեկտը շեղվում է դեպի այն, որ նմանվի մարդկային զգացողության, հետևաբար մենք պոտենցիալ կերպով տեղափոխվում ենք վատ վերաբերմունքի սարսափելի սպեկտրը:

Ինչպես ես շուտով կմանրամասնեմ, մեզ մոտ միտում կա AI համակարգերը մարդաբանական դարձնելու: Մենք պատկերացնում ենք, որ մարդու նման թվացող AI-ն հավասարեցվում է մարդկային ասպեկտներին, չնայած այն հանգամանքին, որ այսօր չկա որևէ AI, որը զգայուն է, և մենք դեռ չգիտենք, թե արդյոք երբևէ կհասնի զգացողությանը: Արդյո՞ք մարդիկ կհայտնվեն մտավոր ծուղակի մեջ՝ ընդունելու արհեստական ​​ինտելեկտի նկատմամբ վատ վերաբերմունքը, ասես դա կանաչ լույս է մարդկանց և կենդանիների (ցանկացած կենդանի էակների) նկատմամբ վատ վերաբերմունքը խթանելու համար:

Ոմանք պնդում են, որ մենք պետք է դա իջնենք սկզբում:

Ասեք մարդկանց, որ չպետք է վատ վերաբերվեն AI համակարգերին: Նույնիսկ քայլող և սողացող ռոբոտների հետ փորձ կատարողները վատ ծառայություն էին մատուցում՝ թվացյալ ուրախությամբ ցուցադրելով իրենց ջանքերի տեսանյութերը: Դա ևս մեկ աղյուս է վատ վերաբերմունքի մասին հասարակության տեսակետների նսեմացման պատին: Թույլ մի տվեք, որ ձնագնդը սկսի գլորվել ձնառատ բլրի վրայով:

Պնդեք, որ մենք հարգանքով վերաբերվենք ամեն ինչին, ներառյալ առարկաներին և արտեֆակտներին: Եվ, հատկապես, երբ այդ առարկաները կամ արտեֆակտներն ունեն մարդկային կերպարանք կամ նմանություն: Եթե ​​մենք չենք կարող կանգնեցնել այն մարդկանց, ովքեր ցանկանում են իրենց սմարթֆոնը նետել պատին, թող այդպես լինի, բայց երբ նրանք ձգտում են ջարդել ռոբոտին կամ նմանատիպ վատ վերաբերմունք ցուցաբերել ցանկացած սարքի նկատմամբ, որն ունի ամուր մարդու նման աուրա, մենք պետք է մեր ոտքը վայր դնենք։ .

Հոգվաշ, ոմանք մեծ արհամարհանքով հակադարձում են.

Ոչ մի կապ չկա այն բանի միջև, թե ինչպես են մարդիկ վերաբերվում արհեստական ​​ինտելեկտի համակարգին և այն մտքի միջև, որ նրանք ինչ-որ կերպ կփոխեն, թե ինչպես են վարվում մարդկանց և կենդանիների հետ: Դրանք երկու տարբեր թեմաներ են։ Մի շփոթեք դրանք, հակափաստարկը գնում է:

Մարդիկ բավականաչափ խելացի են, որպեսզի առանձնացնեն առարկաների և կենդանի էակների նկատմամբ իրենց գործողությունները: Դուք ձեռքի շարժում եք անում՝ փորձելով միացնել այդ կետերը: Թվում է, որ նմանատիպ մտահոգություն առաջացավ տեսախաղերի միջոցով մեծանալու հետ կապված, որոնք խաղացողներին թույլ էին տալիս նկարահանել և ոչնչացնել վիդեո կերպարները: Այդ դեպքում, ենթադրաբար, դա ավելի վատ էր, քան արհեստական ​​ինտելեկտի ռոբոտներին վնասելը, քանի որ տեսախաղը երբեմն ցուցադրում էր վիդեո կերպարներ, որոնք բոլորովին նման են մարդկանց:

Այդ հակափաստարկին հակադրվում է այն, որ տեսախաղերը գործ չունեն իրական առարկաների հետ: Խաղացողը գիտի, որ նրանք ընկղմված են երազի մեջ: Դա շատ հեռու է սմարթֆոնը սենյակով մեկ նետելուց կամ սողացող ռոբոտին փայտով հարվածելուց: Բացի այդ, կա հետազոտություն, որն աջակցում է այն մտահոգություններին, թե ինչպես կարող է տեսախաղը տարածվել իրական աշխարհի վարքագծի մեջ:

Արհեստական ​​ինտելեկտի էթիկան ուսումնասիրում է մարդկային վարքագծի դրդապատճառները և ինչպես կազդի AI-ի վրա հիմնված համեմատաբար բարդ համակարգերի հայտնվելը, հատկապես՝ հաշվի առնելով մարդկանց կողմից երբեմն վատ վերաբերմունքը AI համակարգերի նկատմամբ: Խոսելով մեքենա վարելու մասին (այո, ես դա թաքցրեցի այնտեղ), սա ինձ թույլ է տալիս անցնել AI-ի վրա հիմնված իսկական ինքնակառավարվող մեքենաների թեմային, որը լավ տեղավորվում է այս ընդհանուր թեմայի մեջ:

Տեսեք, որպես արհեստական ​​ինտելեկտի փորձագետ, ներառյալ էթիկական և իրավական հետևանքները, ինձ հաճախ խնդրում են բացահայտել իրատեսական օրինակներ, որոնք ցույց են տալիս արհեստական ​​ինտելեկտի էթիկայի երկընտրանքները, որպեսզի թեմայի տեսական բնույթն ավելի հեշտ ընկալվի: Ամենաոգեշնչող ոլորտներից մեկը, որը վառ կերպով ներկայացնում է այս էթիկական արհեստական ​​ինտելեկտի խնդիրը, AI-ի վրա հիմնված իսկական ինքնակառավարվող մեքենաների հայտնվելն է: Սա կծառայի որպես հարմար օգտագործման դեպք կամ օրինակ՝ թեմայի շուրջ լայն քննարկման համար:

Ահա մի ուշագրավ հարց, որի մասին արժե մտածել. Արդյո՞ք արհեստական ​​ինտելեկտի վրա հիմնված իրական ինքնակառավարվող մեքենաների հայտնվելը որևէ բան լուսաբանում է առարկաների կամ արտեֆակտների վատ վերաբերմունքի մասին:

Թույլ տվեք մի պահ բացել հարցը:

Նախ, նշեք, որ իրական ինքնակառավարվող մեքենայի մեջ մարդ վարորդ չկա: Հիշեք, որ իսկական ինքնակառավարվող մեքենաները վարում են AI վարորդական համակարգի միջոցով: Ղեկին մարդ վարորդի կարիք չկա, մեքենան վարելու համար մարդ չկա: Ինքնավար տրանսպորտային միջոցների (ԱՎ) և հատկապես ինքնակառավարվող մեքենաների իմ լայնածավալ և շարունակական լուսաբանման համար տե՛ս. հղումն այստեղ.

Ես կցանկանայի ավելի պարզաբանել, թե ինչ է նշանակում, երբ ես վերաբերում եմ իրական ինքնակառավարվող մեքենաներին:

Հասկանալով ինքնակառավարվող մեքենաների մակարդակները

Որպես պարզաբանում, իսկական ինքնակառավարվող մեքենաներն այն մեքենաներն են, որոնք AI- ն ամբողջովին ինքնուրույն է վարում մեքենան և մեքենայական առաջադրանքի ընթացքում մարդկային օգնություն չկա:

Այս առանց վարորդի տրանսպորտային միջոցները համարվում են 4-րդ և 5-րդ մակարդակներ (տե՛ս իմ բացատրությունը այս հղումը Մականուն), մինչդեռ մեքենան, որը մարդկային վարորդից պահանջում է համատեղ ջանքեր գործադրել, սովորաբար դիտարկվում է 2-րդ կամ 3-րդ մակարդակում: Մեքենաները, որոնք համատեղ կատարում են վարորդական առաջադրանքը, նկարագրվում են որպես կիսաինքնավար և սովորաբար պարունակում են մի շարք մեքենաներ: ավտոմատացված հավելումներ, որոնք կոչվում են ADAADA
S (Վարորդների աջակցության առաջադեմ համակարգեր):

5-րդ մակարդակում դեռ գոյություն չունի իսկական ինքնագնաց մեքենա, որը մենք դեռ չգիտենք, թե արդյոք դա հնարավոր կլինի հասնել, և ոչ էլ որքան ժամանակ կպահանջվի այնտեղ հասնելու համար:

Միևնույն ժամանակ, 4-րդ մակարդակի ջանքերը աստիճանաբար փորձում են որոշակի ձգողականություն ձեռք բերել՝ անցնելով շատ նեղ և ընտրովի հանրային ճանապարհային փորձարկումներ, թեև հակասություններ կան այն հարցի շուրջ, թե արդյոք այս թեստավորումն ինքնին պետք է թույլատրվի (մենք բոլորս փորձի մեջ կյանքի կամ մահվան ծովախոզուկներ ենք: ոմանք պնդում են, որ տեղի է ունենում մեր մայրուղիներում և ճանապարհների վրա, տես իմ լուսաբանումը այս հղումը Մականուն).

Քանի որ կիսաավտոմեքենաները մարդկային վարորդ են պահանջում, այդպիսի մեքենաների ընդունումը չի տարբերվի սովորական տրանսպորտային միջոցներից վարվելուց, հետևաբար, այս թեմայի շուրջ դրանց մասին ծածկելու համար ամենևին էլ նոր բան չկա (չնայած, ինչպես կտեսնեք մի ակնթարթում ընդհանուր առմամբ կիրառվում են հաջորդ կետերը):

Կիսաանվտանգ ավտոմեքենաների համար կարևոր է, որ հասարակությունը պետք է նախազգուշացվի վերջին շրջանում ի հայտ եկած անհանգստացնող կողմի մասին, մասնավորապես այն, որ չնայած այն մարդկային վարորդներին, ովքեր շարունակում են փակցնել իրենց տեսահոլովակները իրենց մասին, քնում են «Level 2» կամ «Level 3» մեքենայի ղեկին: , մենք բոլորս պետք է խուսափենք ապակողմնորոշվելուց `հավատալով, որ վարորդը կարող է իրենց ուշադրությունը հանել վարորդական առաջադրանքից` կիսաավտոմեքենան վարելիս:

Դուք պատասխանատու կողմն եք տրանսպորտային միջոցի վարման գործողությունների համար, անկախ նրանից, թե որ ավտոմատացումը կարող է տեղափոխվել 2-րդ մակարդակի կամ 3-րդ մակարդակի:

Ինքնավար մեքենաներ և մարդկանց թշնամանք

4-րդ և 5-րդ մակարդակների իսկական ինքնագնաց տրանսպորտային միջոցների համար վարորդական գործին չի մասնակցի մարդկային վարորդ:

Բոլոր գրավյալները ուղևորներ են լինելու:

AI- ն վարում է վարումը:

Անմիջապես քննարկելու մի ասպեկտ ենթադրում է այն փաստը, որ այսօր AI- ի վարման համակարգերում ներգրավված AI- ն զգայուն չէ: Այլ կերպ ասած, AI- ն ընդհանուր առմամբ համակարգչային ծրագրավորման և ալգորիթմների հավաքածու է, և, անկասկած, ի վիճակի չէ տրամաբանել այնպես, ինչպես մարդիկ կարող են:

Ինչու՞ է այս հավելյալ շեշտադրումը արհեստական ​​ինտելեկտի մասին զգացմունքային չէ:

Քանի որ ես ուզում եմ ընդգծել, որ երբ քննարկում եմ AI շարժիչ համակարգի դերը, ես մարդկային որակներ չեմ վերագրում AI- ին: Խնդրում ենք տեղյակ լինել, որ այս օրերին շարունակական և վտանգավոր միտում կա AI- ն մարդաբանելու համար: Ըստ էության, մարդիկ մարդկային նման զգացողություն են հատկացնում այսօրվա AI- ին, չնայած անհերքելի և անառարկելի փաստին, որ այդպիսի AI դեռ գոյություն չունի:

Այդ պարզաբանմամբ դուք կարող եք պատկերացնել, որ AI վարելու համակարգը բնիկ ինչ-որ կերպ «չի իմանա» վարման կողմերի մասին: Վարորդությունն ու դրա հետևանքները պետք է ծրագրավորվեն որպես ինքնակառավարվող մեքենայի սարքավորումների և ծրագրակազմի մաս:

Եկեք սուզվենք այն անհամար ասպեկտների մեջ, որոնք սկսում են խաղալ այս թեմայի շուրջ:

Նախ, կարևոր է գիտակցել, որ ոչ բոլոր ինքնակառավարվող AI մեքենաները նույնն են: Յուրաքանչյուր ավտոարտադրող և ինքնակառավարվող տեխնոլոգիական ընկերություն իր մոտեցումն է ցուցաբերում ինքնակառավարվող մեքենաների ստեղծման հարցում: Որպես այդպիսին, դժվար է լայնածավալ հայտարարություններ անել այն մասին, թե ինչ կանեն կամ չեն անեն AI վարորդական համակարգերը:

Ավելին, ամեն անգամ, երբ նշվում է, որ արհեստական ​​ինտելեկտի կառավարման համակարգը որոշակի բան չի անում, դա հետագայում կարող է շրջանցվել այն մշակողների կողմից, որոնք իրականում ծրագրավորում են համակարգիչը հենց դա անելու համար: Քայլ առ քայլ, արհեստական ​​ինտելեկտի շարժիչ համակարգերը աստիճանաբար բարելավվում և ընդլայնվում են: Այսօր գոյություն ունեցող սահմանափակումն այլևս գոյություն չի ունենա համակարգի ապագա կրկնության կամ տարբերակի դեպքում:

Հավատում եմ, որ բավականաչափ նախազգուշացում է ապահովում ՝ հիմք դնելու այն, ինչի մասին ես պատրաստվում եմ պատմել:

Մենք այժմ պատրաստ ենք խորը սուզվել ինքնակառավարվող մեքենաների և էթիկական AI-ի հարցերի շուրջ, որոնք վերաբերում են մեր պոտենցիալ վատ վերաբերմունքին այդ հպարտ ինքնավար մեքենաների նկատմամբ:

Նախ, դուք, բնականաբար, կարող եք ենթադրել, որ ոչ ոք վատ վերաբերմունքի չի արժանանա AI-ի վրա հիմնված ինքնակառավարվող մեքենային:

Սա տրամաբանական է թվում։ Մենք ընդհանուր առմամբ ընդունում ենք այն գաղափարը, որ ինքնակառավարվող մեքենաներ ունենալու հիմնական առավելություններից մեկն այն է, որ դրանք շատ ավելի քիչ ավտովթարների են ենթարկվելու, քան մարդկանց կողմից վարվող մեքենաները: AI-ն չի խմի և չի վարի: Արհեստական ​​ինտելեկտը չի դիտի կատուների տեսանյութերը ղեկին նստած: Միայն Միացյալ Նահանգներում տարեկան մոտ 40,000 մահ է պատահում ավտովթարների հետևանքով, և մոտ 2.5 միլիոն վնասվածքներ, որոնց մեծ մասն այլևս չի լինի, երբ մեր ճանապարհներին հայտնվեն ինքնակառավարվող մեքենաները:

Ինչը դուր չի գալիս ինքնակառավարվող մեքենաներին, կարող եք ինքներդ ձեզ ասել:

Դե, ցուցակը բավականին ընդարձակ է, տես իմ լուսաբանումը այստեղ այս հղումը Մականուն, բայց այստեղ տարածության սահմանափակման պատճառով ես պարզապես կանդրադառնամ ավելի ուշագրավ մի քանի անցանկալի ասպեկտներին:

Ինչպես ես նախկինում նշել եմ իմ սյունակներում, եղել են դեպքեր, երբ մարդիկ քարեր են նետել անցնող ինքնակառավարվող մեքենաների վրա և, ըստ տեղեկությունների, մետաղական առարկաներ են տեղադրել փողոցում, ինչպիսիք են մեխերը, որպեսզի ծակեն ինքնակառավարվող մեքենաների անվադողերը: Դա արվել է տարբեր պնդվող պատճառներով: Մեկն այն է, որ այն տարածքի մարդիկ, որտեղ շրջում էին ինքնակառավարվող մեքենաները, մտահոգված էին, որ արհեստական ​​ինտելեկտի վարորդական համակարգերը պատրաստ չեն փրայմ ժամանակին:

Մտահոգությունը կայանում էր նրանում, որ արհեստական ​​ինտելեկտի վարման համակարգը կարող է շեղվել՝ միգուցե վազելով փողոցով վազող երեխայի վրա կամ հարվածելով սիրելի ընտանի շանը, որը, հավանաբար, ոլորվում էր ճանապարհի վրա: Համաձայն նախկին կետի, որ մեզ թվում էր, թե մեզ վերաբերվում էին որպես ծովախոզուկների, համոզմունքն այն էր, որ անբավարար փորձարկումներ և նախապատրաստություն են տեղի ունեցել, և որ ինքնակառավարվող մեքենաները անպատշաճ կերպով բաց են թողնվում: Փորձարկումները սահմանափակելու փորձերն արվում էին որպես զայրույթի հրապարակային դրսևորում ինքնակառավարվող մեքենաների նկատմամբ, որոնց օրինականորեն թույլատրվում էր շրջել շուրջը:

Հնարավոր է, որ ատյաններում խառնված այլ պատճառներ լինեին: Օրինակ, ոմանք ենթադրել են, որ մարդ վարորդները, որոնք հույս են դնում իրենց ապրուստը վաստակելու վրա, անհանգստանում էին, որ AI-ն իրենց փոխարինելու շեմին է: Սա սպառնալիք էր նրանց ապրուստի համար: Դուք, անշուշտ, գիտեք, որ արհեստական ​​ինտելեկտի վրա հիմնված իսկական ինքնակառավարվող մեքենաների ի հայտ գալը դեռ շատ հեռու է, և աշխատողների տեղաշարժի խնդիրն անմիջական խնդիր չէ: Հետևաբար, թվում է, որ ժայռերի նետումը և այլ միջադեպերը, հավանաբար, ավելի շատ անվտանգության նկատառումներով են պայմանավորված:

Արհեստական ​​ինտելեկտի վատ վերաբերմունքի մասին այս թեմայի մեր նպատակների համար հարց է առաջանում, թե արդյոք արհեստական ​​ինտելեկտի վրա հիմնված ինքնակառավարվող մեքենաների դեմ այս փոքր-ինչ կործանարար գործողությունները կատարելու պատրաստակամությունը AI-ի վրա հիմնված ինքնակառավարվող մեքենաների նկատմամբ սայթաքուն լանջի վաղ ցուցիչն է:

Պահեք այդ միտքը:

AI-ի վրա հիմնված ինքնակառավարվող մեքենաների նկատմամբ դիտարկվող վատ վերաբերմունքի մեկ այլ տեսանկյուն է այն «բուլինգը», որը որոշ մարդկանց վարորդներ և նույնիսկ հետիոտներ ուղղված են եղել այդ ինքնավար տրանսպորտային միջոցների վրա, տես իմ վերլուծությունները. հղումն այստեղ և հղումն այստեղ.

Մի խոսքով, մարդ վարորդները, որոնք վարում են և, ամենայն հավանականությամբ, հանդիպում են ինքնակառավարվող մեքենայի, երբեմն նախընտրում են հնարքներ վարել առանց վարորդի մեքենաների վրա: Այս խաբեությունը երբեմն արվում է պարզապես զվարճանալու համար, բայց ավելի շատ հիմքը սովորաբար պայմանավորված է հիասթափություններով և զայրույթով այսօրվա AI շարժիչ համակարգերի վերաբերյալ:

AI վարորդական համակարգերի մեծ մասը ծրագրավորված է վարել խիստ օրինական ճանապարհով: Վարորդները պարտադիր չէ, որ վարեն խիստ օրինական ձևով: Օրինակ՝ մարդ վարորդները հաճախ են վարում սահմանված արագության սահմանաչափից բարձր՝ երբեմն դա անում են ամենասարսափելի եղանակներով: Երբ մարդ վարորդները կանգնած են ինքնակառավարվող մեքենայի հետևում, մարդ վարորդն իրեն խանգարում է «slowpoke» AI վարորդական համակարգով:

Մարդիկ, ովքեր ապրում են ներկայումս լավ բնակեցված ինքնակառավարվող մեքենաներով տարածքներում, հակված են անմիջապես վրդովվելու, երբ տեսնում են իրենց առջևում գտնվող ինքնակառավարվող մեքենան: Նրանք գիտեն, որ ինքնավար մեքենան իրենց ճանապարհորդությունը կդարձնի ավելի երկար, քան անհրաժեշտ է: Այսպիսով, նման վարորդները կնախընտրեն ագրեսիվ լինել ինքնակառավարվող մեքենայի նկատմամբ:

Վարորդները գիտեն, որ կարող են շրջել ինքնակառավարվող մեքենայի շուրջը և կտրել այն։ AI վարորդական համակարգը պարզապես կդանդաղեցնի ինքնավար մեքենան և այն չի արձագանքի ճանապարհային զայրույթի ձևով: Եթե ​​մարդ վարորդը փորձի նույն ագրեսիվ քայլն անել մեկ այլ մարդու վարորդի նկատմամբ, հավանականությունն այն է, որ հատուցում գրեթե անկասկած կառաջանա: Որոշ չափով մարդ վարորդները չափավորում են իրենց ագրեսիվ վարելը` ելնելով այն գիտակցումից, որ տուժող վարորդը կարող է վրեժխնդիր լինել:

Արդյո՞ք մարդու վարելու այս տեսակ վարքագիծը արհեստական ​​ինտելեկտի վրա հիմնված ինքնակառավարվող մեքենաների նկատմամբ կբացի Պանդորայի վատ վարքագծերի տուփը:

Եզրափակում

Մենք սեղանին ենք դրել երկու ընդհանուր դեպք, երբ մարդիկ, կարծես, վատ են վարվում արհեստական ​​ինտելեկտի վրա հիմնված ինքնակառավարվող մեքենաների հետ: Առաջին օրինակը ներառում էր քարեր նետելը և ճանապարհներին ինքնակառավարվող մեքենաների օգտագործումը խոչընդոտելու փորձը: Երկրորդ օրինակը ենթադրում էր ագրեսիվ վարել ինքնակառավարվող մեքենաներով:

Սա առաջացնում է առնվազն հետևյալ մտահոգությունները.

• Արդյո՞ք նման վատ վերաբերմունքի ի հայտ գալը կտարածվի մարդկանց կողմից վարվող մեքենաների վրա:
• Եթե ​​սա շարունակվի կամ շարունակվի, արդյոք նման վատ վերաբերմունքը կտարածվի՞ մարդկային ջանքերի այլ ասպեկտների վրա:

Պատասխաններից մեկն այն է, որ դրանք ընդամենը ժամանակավոր արձագանքներ են արհեստական ​​ինտելեկտի վրա հիմնված ինքնակառավարվող մեքենաներին: Եթե ​​հանրությունը կարողանա համոզվել, որ մեր ավտոճանապարհներին անվտանգ են աշխատում ինքնակառավարվող մեքենաները, ապա քար նետելը և նման ծանր արարքները գրեթե կվերանան (որն, ի դեպ, կարծես թե այդքան էլ կթուլանա): Եթե ​​AI վարորդական համակարգերը կարող են բարելավվել, որպեսզի ավելի քիչ խոչընդոտ հանդիսանան մեր ճանապարհներին, մոտակայքում գտնվող մարդ վարորդները կարող են ավելի քիչ հակված լինել ագրեսիվ լինել ինքնակառավարվող մեքենաների նկատմամբ:

Այս քննարկման ընթացքում շեշտը դրվեց այն բանի վրա, որ վատ վերաբերմունքը ենթադրաբար վատ վերաբերմունք է ծնում: Որքան շատ եք վատ վերաբերմունք ցուցաբերում, օրինակ՝ վատ վերաբերմունքը արհեստական ​​ինտելեկտի նկատմամբ, այնքան այդ վատ վերաբերմունքը դառնում է ընդունված և ընդունված, օրինակ՝ մարդկանց և կենդանիների նկատմամբ:

Հավատում եք, թե ոչ, այդ մետաղադրամի մյուս կողմն էլ կա, թեև ոմանք դա համարում են լավատեսական ուրախ դեմքի շրջադարձ այս հարցում:

Սա հատկապես լավատեսական առաջարկն է. Թերևս պատշաճ բուժումը ծնում է պատշաճ բուժում:

Ահա թե ինչ նկատի ունեմ:

Որոշ փորձագետներ ենթադրում են, որ քանի որ արհեստական ​​ինտելեկտի վարորդական համակարգերը ծրագրված են օրինական և զգույշ վարելու համար, կարող է լինել, որ մարդ վարորդները կսովորեն դրանից և որոշեն ավելի խելամիտ վարել: Երբ ձեզ շրջապատող մյուս մեքենաները խստորեն պահպանում են արագության սահմանափակումը, միգուցե դուք նույնպես: Երբ այդ ինքնակառավարվող մեքենաները կանգ են առնում «Կանգառ» նշանների մոտ և չեն փորձում կարմիր լույսով վառել, մարդիկ վարորդներին նմանապես ոգեշնչված կլինեն ուշադիր վարել:

Թերահավատը կարծում է, որ այդ մտածողության գիծը բարակ է կամ գուցե նույնիսկ երանելի բաց աչքերով և անհեթեթորեն միամիտ:

Ինձ լավատես անվանեք, բայց ես կքվեարկեմ երազկոտ գաղափարի օգտին, որ մարդ վարորդներին մոտիվացված կլինի ավելի խոհեմ վարել: Իհարկե, այն փաստը, որ արհեստական ​​ինտելեկտի վրա հիմնված իսկական ինքնակառավարվող մեքենաները տեսագրության և դրանց այլ սենսորների միջոցով ֆիքսելու են մոտակա մարդկանց կողմից կառավարվող այլ մեքենաների խելահեղ մանևրները և կարող են հստակորեն զեկուցել ոստիկաններին անօրինական վարման մասին՝ պարզապես կոճակի սեղմման միջոցով: , կարող է ապահովել «ոգեշնչում», որն անհրաժեշտ է մարդկանց ավելի լավ վարելու համար:

Երբեմն անհրաժեշտ է և՛ գազար, և՛ փայտիկ, որպեսզի մարդկային վարքագիծը ներդաշնակ լինի: