Կարո՞ղ է Իլոն Մասկին հաջողվել զարգացնել գեներատիվ AI ChatGPT Knockoff «TruthGPT», որը միշտ ստոյիկորեն ճշմարիտ կլինի, հարցնում է AI էթիկան և AI օրենքը:

Սալոնի դուռը թակում են։

Դուռը բացե՞նք։

Ֆիլմերը սովորաբար հուշում են, որ մենք չպետք է թույլ տանք, որ մեր հետաքրքրասիրությունը գերակշռի մեզ վրա, մասնավորապես, մենք բացարձակապես դրականորեն երբեք չպետք է բացենք դուռը: Դե, այսպես ասած, դուռը փակ թողնելու ընտրությունը, կարծես թե, արժանի հեքիաթ չի լինի: Թվում է, թե մենք ձգված ենք դեպի հուզմունքը և անհայտությունը:

Այսպիսով, եկեք առաջ գնանք և բացենք դուռը:

Կոնկրետ այս դեպքում ես նկատի ունեմ Արհեստական ​​ինտելեկտի (AI) ոլորտում ի հայտ եկած մի անհաջողություն, որը կա՛մ մեզ բոլորիս համար ներկայացնում է լավ ժամանակներ, կա՛մ ամենավատ ժամանակները: Իրավիճակը ենթադրում է AI-ի ապագան: Եվ կարելի է հանդիսավոր կերպով ենթադրել, որ արհեստական ​​ինտելեկտի ապագան ընդգրկում է բավականին դրամատիկ հետևանքներ, ներառյալ հասարակության ապագայի և մարդկության ճակատագրի առերևույթ ձևավորումը:

Ահա գործարքը:

Համաձայն վերջին լուրերի, Իլոն Մասկը՝ երբեմնի աշխարհի ամենահարուստ մարդը, ձկնորսություն է անում արհեստական ​​ինտելեկտի բարձրակարգ հետազոտողների համար, որպեսզի հայտնվեն AI նոր ձեռնարկության մեջ, որը նա մտքում ունի: Արհեստական ​​ինտելեկտի տարբեր մշակողների և AI գիտնականների հանգիստ դիմում են: Նրանց դռան թակոցը, ըստ երևույթին, տալիս է մեծ խոստումներ և պոտենցիալ շահութաբեր լուրեր:

Ենթադրվում է, որ դեռևս չբացահայտված AI նախաձեռնության էությունը լայնորեն և տարածված ChatGPT-ի հարվածն է, որը թողարկվել է OpenAI-ի կողմից դեռևս նոյեմբերին: Դուք գրեթե անկասկած լսել եք կամ տեսել եք ChatGPT-ի մասին աղմկոտ վերնագրերի մասին: Ես մի պահ կբացատրեմ ավելին, թե ինչ է ChatGPT: Դուք նաև պետք է իմանաք, որ ChatGPT-ը AI-ի մի տեսակի օրինակ է, որը հայտնի է որպես Գեներատիվ AI. Այս օրերին կան բազմաթիվ գեներացնող AI հավելվածներ: ChatGPT-ն, ըստ երևույթին, ամենաբարձր հանրային պրոֆիլով մեկն է և կարծես թե հայտնի է բոլորին, նույնիսկ գուցե նրանց, ովքեր ինչ-որ կերպ ապրում են քարանձավում:

Ահա այս կիսագաղտնի արագ ձևավորվող սագայի մասին զեկույցի օրինակ.

• «Վերջին շաբաթների ընթացքում Իլոն Մասկը դիմել է արհեստական ​​ինտելեկտի հետազոտողներին նոր հետազոտական ​​լաբորատորիա ստեղծելու համար՝ ChatGPT-ին՝ OpenAI ստարտափի կողմից ստեղծված բարձրաշխարհիկ չաթ-բոտին այլընտրանք ստեղծելու համար, ասվում է ջանքերի անմիջական իմացությամբ երկու հոգու և երրորդ անձի մասին: խոսակցությունների մասին» (Տեղեկատվությունը, «Պայքարելով «Woke AI», Մասկը հավաքագրում է թիմը OpenAI մրցակից զարգացնելու համար», Ջոն Վիկտոր և Ջեսիկա Է. Լեսին, փետրվարի 27, 2023):

Ձեր առաջին միտքը կարող է լինել այն, որ եթե Իլոն Մասկը ցանկանում է ստեղծել ChatGPT-ը, դա կախված է նրանից և ինչպես է նա ցանկանում ծախսել իր գումարը: Հաջողություն. Նա պարզապես կավելացնի արհեստական ​​ինտելեկտի գեներացնող հավելվածների արդեն գոյություն ունեցող և աճող զանգվածը: Միգուցե նա լրացուցիչ հարստություն կվաստակի ChatGPT-ի սեփական տնային տարբերակից: Կամ գուցե դա կլինի մեծ հուզմունք, և նրա հսկայական հարստության մեջ ընկած փոքրիկ խայթոցը համեստ ծախսատար հետապնդումից նման կլինի հաշվապահական հաշվառման բաժնում կատարված կլորացման սխալի:

Դռան ուժեղ թակելու փոխարեն, ենթադրաբար, սա ավելի շատ նման է դռան խուլ թակոցին:

Պատրաստվեք շրջադարձին:

Կարծիք կա, որ Իլոն Մասկը ցանկանում է խարխլել այսօրվա գեներացնող AI հավելվածների հիմքերը և վերականգնել որոշ կարևոր ասպեկտներ, թե ինչպես են նրանք աշխատում և ինչ են արտադրում: Ինչպես ես շուտով կբացատրեմ այստեղ, ներկայիս գեներատիվ AI-ի վերաբերյալ ընդհանուր և բարեխիղճ անհանգստությունն այն է, որ այն կարող է առաջացնել սխալներ, կեղծիքներ և այսպես կոչված AI հալյուցինացիաներ: Յուրաքանչյուր ոք, ով օգտագործել է գեներատիվ AI, անկասկած բախվել է այդ անհանգստացնող խնդիրների հետ: Ըստ երևույթին, Իլոն Մասկը հույս ունի կրճատել և, հնարավոր է, ինչ-որ կերպ վերացնել այդ տեսակի անոմալիաներն ու խնդրահարույց հակումները:

Սա ակնհայտորեն արժանի և պատվաբեր ձգտում է թվում: Իրականում, խնդրում եմ, իմացեք, որ գրեթե կամ գուցե կարող եմ ասել, որ արհեստական ​​ինտելեկտի գեներացնող բոլոր նախագծողները մեծ ջանքեր են գործադրում նվազեցնելու ելքային սխալների, կեղծիքների և AI հալյուցինացիաների հավանականությունը: Ձեզ դժվար կլինի գտնել որևէ ողջամիտ հոգի, որը կպնդի, որ մենք պետք է պահենք այդ սխալները, կեղծիքները և արհեստական ​​ինտելեկտի հալյուցինացիաները գեներացնող AI-ի մեջ:

Չափազանց լայնածավալ հայտարարություն անելու, գրեթե համընդհանուր համաձայնություն կա, որ գեներատիվ AI-ի հիվանդությունները, որոնք ներառում են սխալներ, կեղծիքներ և AI հալյուցինացիաներ, պետք է խստորեն, համառորեն և խստորեն վերաբերվեն: Նպատակն է կարգավորել, կատարելագործել, կատարելագործել, հիմնանորոգել կամ այս կամ այն ​​AI տեխնոլոգիական եղանակով լուծել և լուծել այս խնդիրը:

Ամեն օր, երբ գեներատիվ AI-ն շարունակում է սխալներ, կեղծիքներ և արհեստական ​​ինտելեկտի հալյուցինացիաներ դուրս հանել արդյունքներից, վատ օր է գրեթե բոլորի համար: Մարդիկ, ովքեր օգտագործում են գեներատիվ արհեստական ​​ինտելեկտը, անկասկած, դժգոհ կլինեն այդ խաթարված արդյունքներից: Մարդիկ, ովքեր ապավինում են կամ պետք է օգտագործեն աղտոտված արդյունքները, վտանգի տակ են, որ սխալմամբ կախված լինեն ինչ-որ սխալ բանից կամ ավելի վատը դեռ կառաջնորդեն իրենց վտանգված ուղղությամբ:

AI ստեղծողները, որոնք փորձում են բիզնես ստեղծել գեներատիվ AI-ից, միևնույն ժամանակ պոտենցիալ իրավական ռիսկի տակ են գտնվում նրանց կողմից, ովքեր խափանում են՝ ապավինելով խեղաթյուրված արդյունքներին: Պահանջվող վնասների փոխհատուցման հայցերը գրեթե անկասկած շուտով կծագեն: Մենք կարող ենք ակնկալել, որ կարգավորողները կնախընտրեն կշռադատել, և AI-ի նոր օրենքներ կարող են ընդունվել՝ գեներացնող AI-ի վրա օրինական կապանք դնելու համար, տես իմ լուսաբանումը այստեղ։ հղումն այստեղ. Բացի այդ, մարդիկ, ի վերջո, կարող են այնքան նվաստանալ, որ AI ստեղծողների հեղինակությունը լրջորեն արատավորվի, և գեներացնող AI-ն վերջնականապես հասնի եզրագծին:

Լավ, այնպես որ մենք գիտենք, որ խիզախ ճշմարտություն է, որ AI ստեղծողները և AI հետազոտողները տենդագին փորձում են հորինել, նախագծել, կառուցել և կիրառել AI տեխնոլոգիական կախարդանք՝ կանխելու այս սարսափելի հիվանդությունները, որոնք կապված են այսօրվա գեներացնող AI հիվանդությունների հետ: Իլոն Մասկին պետք է ընդունել. Որքան շատ, այնքան լավ: Այս գազանին ընտելացնելու համար AI-ի մեծ տաղանդ և գումար կպահանջվի: Իլոն Մասկի ավելացումը լավատես և հուսադրող նշան է թվում, որ, հնարավոր է, ճիշտ քանակությամբ հրթիռային գիտություն, կանխիկ գումար և վճռականություն կգտնեն AI-ի բուժումը:

Սակայն շրջադարձը գալիս է, երբ սկսում ես բացել դուռը՝ տեսնելու, թե ինչ է այնտեղ կանգնած:

17 թվականի փետրվարի 2023-ին տեղի ունեցած Իլոն Մասկի բավականին և ինչպես միշտ հակիրճ թվիթում մենք ստացանք այս ենթադրյալ հուշումը.

• «Մեզ պետք է TruthGPT»

Հենց դա էլ ստիպում է ոմանց որոշել, որ միգուցե դուռը պետք է շրխկոցով փակել և մեխով փակել:

Ինչու այդպես?

Ոմանց կողմից արտահայտված մտահոգությունն այն է, որ նախատեսվող TruthGPT-ի հիմքում ընկած «ճշմարտությունը» կարող է լինել գեներատիվ AI, որը ձևակերպված է և արտադրում է միայն ելքեր՝ հիմնված բացառապես դիսկոմբուլյացիայի վրա: Ճշմարտություն որը խստորեն համընկնում է աշխարհի մասին մեկ մարդու հայացքների հետ: Այո, սխալն այն է, որ մենք կստանանք արհեստական ​​ինտելեկտի գեներացնող հավելված, որն արձակում է ճշմարտությունը՝ ըստ Իլոն Մասկի:

Մտահոգիչ, ոմանք ասում են.

Համարձակորեն համարձակ և բոլորովին տագնապալի, ոմանք հորդորում են.

Անմիջական հակադարձումն այն է, որ եթե նա ցանկանում է արտադրել իր TruthGPT-ն, անկախ նրանից, թե ինչ է դա, դա իր գումարն է ծախսելու: Մարդիկ կամ կնախընտրեն օգտագործել այն, կամ չեն անի: Նրանք, ովքեր օգտագործում են այն, պետք է բավականաչափ խորամանկ լինեն, որպեսզի հասկանան, թե ինչի մեջ են նրանք ներքաշվում: Եթե ​​նրանք ցանկանում են արդյունքներ ստանալ գեներատիվ AI-ի այս հատուկ տարբերակից, որը ենթադրաբար ձևավորված է Իլոն Մասկի աշխարհայացքի շուրջ, դա նրանց իրավունքն է փնտրելու այն: Պատմության ավարտը. Առաջ շարժվել.

Վայ, հակափաստարկ է գնում, դուք մարդկանց սարքում եք սարսափելի ու սարսափելի թակարդի համար։ Կլինեն մարդիկ, ովքեր չեն գիտակցի, որ TruthGPT-ն Իլոն Մասկի կողմից մշակված արհեստական ​​ինտելեկտի գեներատիվ ծրագիր է: Նրանք կընկնեն մտավոր թակարդը՝ ենթադրելու, որ այս գեներացնող AI-ն վերևում է: Իրոք, եթե անվանումը մնա որպես «TruthGPT» (կամ նմանատիպ), դուք, իհարկե, կհավատաք, որ սա գեներատիվ AI է, որն ունի բացարձակ ճշմարտություն պատմել իր թողարկված էսսեների և տեքստի մեջ:

Որպես հասարակություն, միգուցե մենք չպետք է թույլ տանք, որ չկասկածողն ընկնի նման թակարդների մեջ, նրանք զգուշացնում էին:

Այս ենթադրյալ բնույթի արհեստական ​​ինտելեկտի գեներացնող հավելվածին թույլ տալով լողալ և օգտագործել բոլոր տեսակի մարդկանց կողմից՝ քաոս կստեղծվի: Մարդիկ կմեկնաբանեն որպես սուրբ «ճշմարտություն» այս TruthGPT-ի արդյունքները, նույնիսկ եթե թողարկված էսսեները լի են սխալներով, կեղծիքներով, արհեստական ​​ինտելեկտի հալյուցինացիաներով և բոլոր տեսակի անճոռնի կողմնակալությամբ: Ավելին, նույնիսկ եթե պնդումն այն է, որ գեներատիվ AI-ի այս տարբերակը չի ունենա սխալներ, կեղծիքներ և AI հալյուցինացիաներ, ինչպես պետք է իմանանք, որ արդյունքում զտված թվացող AI-ն չի պարունակի անհարկի կողմնակալություն, ինչպես նաև ապատեղեկատվության և նենգ շտեմարան: ապատեղեկատվություն?

Ես կռահում եմ, որ դուք կարող եք տեսնել գարեջրվող հակասություններն ու տարաձայնությունները:

Ազատ շուկայական հիմունքներով Իլոն Մասկը, ըստ երևույթին, պետք է կարողանա շարունակել ստեղծել գեներացնող արհեստական ​​ինտելեկտի ցանկացած տեսակ, որը նա ցանկանում է ստեղծել: Պարզապես այն պատճառով, որ ուրիշները կարող են չհավանել «ճշմարտության» նրա տարբերակը, դա չպետք է խանգարի նրան առաջ գնալ: Թող նա անի իր գործը: Միգուցե նախազգուշական հաղորդագրություն պետք է ներառվի կամ ինչ-որ այլ ծանուցում, երբ որևէ մեկն օգտագործում է այն, որպեսզի տեղեկացնի, թե ինչ են նախընտրում գործարկել: Այնուամենայնիվ, մարդիկ պետք է պատասխանատու լինեն իրենց գործողությունների համար, և եթե նրանք ընտրում են օգտագործել TruthGPT, ապա այդպես էլ լինի:

Սպասեք մի վայրկյան, ևս մեկ պատասխան պատասխան է գնում: Ենթադրենք, որ ինչ-որ մեկը ստեղծել է արհեստական ​​ինտելեկտի գեներացնող հավելված, որը ստեղծվել է չարագործության համար: Նպատակը մարդկանց շփոթեցնելն էր։ Հույսը մարդկանց կատաղեցնելն ու գրգռելն էր: Արդյո՞ք մենք որպես հասարակություն կընդունեինք նման գեներացնող AI-ն: Արդյո՞ք մենք ցանկանում ենք թույլ տալ արհեստական ​​ինտելեկտի հավելվածներ, որոնք կարող են հրահրել մարդկանց՝ խաթարելով նրանց հոգեկան առողջությունը և, հնարավոր է, նրանց դրդելով անբարենպաստ գործողությունների:

Ավազի մեջ պետք է գիծ լինի: Ինչ-որ պահի մենք պետք է ասենք, որ գեներացնող AI-ի որոշ տեսակներ զզվելի են և չեն կարող թույլատրվել: Եթե ​​մենք թույլ տանք, որ ստեղծվի և գործարկվի անսանձ գեներատիվ արհեստական ​​ինտելեկտը, վերջնական կործանումն ու խավարը անխուսափելիորեն կբախվեն բոլորիս: Դա միայն նրանք չեն լինի, ովքեր կօգտագործեն AI հավելվածը: Ամեն ինչ և բոլոր մյուսները, որոնք առաջանում են AI հավելվածի շրջակայքում և կապված են դրա հետ, բացասաբար կանդրադառնան:

Դա կարծես համոզիչ փաստարկ է:

Թեև հիմնական հիմքն այն է, որ խնդրո առարկա գեներատիվ արհեստական ​​ինտելեկտը պետք է այնպիսի անհանգստացնող մտահոգություն առաջացնի, որ մենք համոզիչ կերպով կհավատանք, որ դրա կանխարգելումը կամ նախօրոք ամբողջությամբ դադարեցնելը օբյեկտիվորեն անհրաժեշտ կլինի: Սա նաև առաջացնում է մի շարք այլ փշոտ հարցեր: Կարո՞ղ ենք նախապես հայտարարել, որ գեներատիվ AI-ն կարող է այնքան դաժան լինել, որ ընդհանրապես թույլ չտալ այն կառուցել: Ոմանց համար դա վաղաժամ է թվում: Նման ծանր որոշում կայացնելու համար պետք է գոնե սպասել մինչև գեներատիվ AI-ն գործարկվի:

Արթնացե՛ք, ոմանք բուռն արձագանքում են, դուք անխոհեմաբար ձիուն բաց եք թողնում գոմից։ Սանձազերծված AI-ի, արձակված ձիու պատճառած վտանգներն ու վնասները կոխկրտելու են ամբողջ մեզ։ Արհեստական ​​ինտելեկտի գեներացնող հավելվածը կարող է նմանվել դասական երկընտրանքի՝ ջինը նորից շշի մեջ դնելու փորձի: Հնարավոր է՝ չկարողանաք դա անել։ Ավելի լավ է ջին պահել կողպեքի և բանալիի փոխարեն, կամ համոզվել, որ ձին ամուր կառչած մնա գոմում:

Դա պոտենցիալ փոթորիկ է մեր դռան շեմին, և դուռը կարող է բացվել՝ անկախ նրանից, թե մենք ինչ խելամիտ ենք համարում անել:

Մի բան, որ մենք կարող ենք վստահաբար անել, նախ ուսումնասիրելն է, թե ինչ ա TruthGPT գեներատիվ AI մեքենայության ոճը կարող է լինել: Այսօրվա սյունակում ես հենց դա էլ կանեմ: Ես կանդրադառնամ նաև արտահայտված անհանգստությունների պատճառաբանված հիմքին, գումարած՝ կքննարկեմ տարբեր միջոցներ և արդյունքներ։ Սա երբեմն կներառի այս քննարկման ընթացքում AI հավելվածին ChatGPT հղումը, քանի որ դա գեներատիվ AI-ի 600 ֆունտանոց գորիլա է, թեև հիշեք, որ կան բազմաթիվ այլ գեներացնող AI հավելվածներ, և դրանք հիմնականում հիմնված են նույն ընդհանուր սկզբունքների վրա:

Միևնույն ժամանակ, դուք կարող եք մտածել, թե ինչ է գեներատիվ AI-ն:

Եկեք նախ անդրադառնանք գեներատիվ արհեստական ​​ինտելեկտի հիմունքներին, այնուհետև կարող ենք ուշադիր նայել արդիական խնդրին:

Այս ամենի մեջ մտնում են AI էթիկայի և AI օրենքի նկատառումները:

Խնդրում ենք տեղյակ լինել, որ շարունակական ջանքեր են գործադրվում Արհեստական ​​արհեստական ​​ինտելեկտի էթիկական սկզբունքները ներթափանցելու AI հավելվածների մշակման և ներդրման մեջ: Մտահոգված և նախկինում արհեստական ​​ինտելեկտի էթիկայի մասնագետների աճող կոնտինգենտը փորձում է ապահովել, որ արհեստական ​​ինտելեկտը մշակելու և ընդունելու ջանքերը հաշվի են առնում անելու տեսակետը: AI For Good և կանխարգելող AI For Bad. Նմանապես, առաջարկվում են արհեստական ​​ինտելեկտի նոր օրենքներ, որոնք շրջանառվում են որպես պոտենցիալ լուծումներ, որոնք թույլ չեն տալիս AI-ի ջանքերը չխոչընդոտել մարդու իրավունքներին և նման բաներին: AI-ի էթիկայի և AI օրենքի իմ շարունակական և ընդարձակ լուսաբանման համար տե՛ս հղումն այստեղ և հղումն այստեղ, պարզապես մի քանի անուն:

Արհեստական ​​ինտելեկտի էթիկական սկզբունքների մշակումն ու տարածումը հետամուտ են լինում՝ հուսանք կանխելու համար, որ հասարակությունն ընկնի արհեստական ​​ինտելեկտը հրահրող բազմաթիվ թակարդների մեջ: ՅՈՒՆԵՍԿՕ-ի ջանքերով մոտ 200 երկրների կողմից մշակված և աջակցվող ՄԱԿ-ի AI-ի էթիկայի սկզբունքների իմ լուսաբանման համար տե՛ս. հղումն այստեղ. Նմանապես, արհեստական ​​ինտելեկտի նոր օրենքներ են ուսումնասիրվում՝ փորձելով AI-ն հավասարաչափ պահել: Վերջին վերցնումներից մեկը բաղկացած է առաջարկվող մի շարքից AI իրավունքների օրինագիծ որ ԱՄՆ Սպիտակ տունը վերջերս հրապարակեց՝ բացահայտելու մարդու իրավունքները արհեստական ​​ինտելեկտի դարաշրջանում, տես հղումն այստեղ. Գյուղ է պահանջվում AI-ի և AI-ի մշակողներին ճիշտ ուղու վրա պահելու և կանխելու նպատակային կամ պատահական թաքնված ջանքերը, որոնք կարող են վնասել հասարակությանը:

Այս քննարկման մեջ ես միահյուսելու եմ AI-ի էթիկայի և AI օրենքի հետ կապված նկատառումները:

Generative AI-ի հիմունքները

Գեներատիվ AI-ի ամենահայտնի օրինակը ներկայացված է ChatGPT անունով AI հավելվածով: ChatGPT-ն հայտնվեց հանրային գիտակցության մեջ դեռևս նոյեմբերին, երբ այն թողարկվեց AI հետազոտական ​​OpenAI ընկերության կողմից: Այն ժամանակվանից ի վեր, երբ ChatGPT-ն հավաքել է հսկայական վերնագրեր և զարմանալիորեն գերազանցել է իր հատկացված տասնհինգ րոպե փառքը:

Կարծում եմ, դուք հավանաբար լսել եք ChatGPT-ի մասին կամ գուցե նույնիսկ գիտեք մեկին, ով օգտագործել է այն:

ChatGPT-ը համարվում է արհեստական ​​ինտելեկտի գեներատիվ հավելված, քանի որ այն ընդունում է օգտատերից որոշ տեքստ, այնուհետև առաջացնում կամ արտադրում է արդյունք, որը բաղկացած է էսսեից: AI-ն տեքստից տեքստ գեներատոր է, չնայած ես նկարագրում եմ AI-ն որպես տեքստի շարադրություն գեներատոր, քանի որ դա ավելի հեշտ է պարզաբանում, թե ինչի համար է այն սովորաբար օգտագործվում: Դուք կարող եք օգտագործել գեներատիվ AI-ը երկար կոմպոզիցիաներ կազմելու համար կամ կարող եք ստիպել այն առաջարկել բավականին կարճ բովանդակալից մեկնաբանություններ: Ամեն ինչ ձեր խնդրանքով է:

Ձեզ անհրաժեշտ է միայն հուշում մուտքագրել, և AI հավելվածը ձեզ համար կստեղծի շարադրություն, որը կփորձի պատասխանել ձեր հուշմանը: Կազմված տեքստը կթվա, կարծես շարադրությունը գրված է մարդու ձեռքով և մտքով: Եթե ​​դուք պետք է մուտքագրեք հուշում, որտեղ ասվում է «Պատմեք ինձ Աբրահամ Լինքոլնի մասին», գեներատիվ AI-ն ձեզ կտրամադրի շարադրություն Լինքոլնի մասին: Գոյություն ունեն գեներատիվ AI-ի այլ եղանակներ, ինչպիսիք են՝ տեքստը-արվեստ և տեքստ-տեսանյութ: Այստեղ ես կկենտրոնանամ տեքստից տեքստ փոփոխության վրա:

Ձեր առաջին միտքը կարող է լինել այն, որ այս գեներացնող կարողությունը այնքան էլ մեծ խնդիր չի թվում էսսեներ պատրաստելու առումով: Դուք հեշտությամբ կարող եք առցանց որոնում կատարել ինտերնետում և հեշտությամբ գտնել տոննաներով ու տոննաներով էսսեներ Նախագահ Լինքոլնի մասին: Գեներատիվ AI-ի դեպքում ամենակարևորն այն է, որ ստեղծված շարադրությունը համեմատաբար եզակի է և ապահովում է բնօրինակ կոմպոզիցիա, այլ ոչ թե կրկնօրինակ: Եթե ​​դուք փորձեիք գտնել AI-ի կողմից պատրաստված շարադրությունը առցանց ինչ-որ տեղ, դժվար թե այն հայտնաբերեք:

Generative AI-ն նախապես պատրաստված է և օգտագործում է բարդ մաթեմատիկական և հաշվողական ձևակերպում, որը ստեղծվել է համացանցում գրավոր բառերի և պատմությունների օրինաչափությունների ուսումնասիրության միջոցով: Հազարավոր և միլիոնավոր գրավոր հատվածների ուսումնասիրության արդյունքում արհեստական ​​ինտելեկտը կարող է նոր էսսեներ և պատմություններ դուրս հանել, որոնք հայտնաբերվածի խառնուրդ են: Տարբեր հավանականական ֆունկցիոնալություններ ավելացնելով՝ ստացված տեքստը բավականին եզակի է՝ համեմատած այն, ինչ օգտագործվել է ուսումնական հավաքածուում:

Բազմաթիվ մտահոգություններ կան գեներատիվ AI-ի վերաբերյալ:

Կարևոր բացասական կողմերից մեկն այն է, որ գեներատիվ վրա հիմնված AI հավելվածի կողմից արտադրված էսսեները կարող են ներառել տարբեր կեղծիքներ, ներառյալ ակնհայտորեն իրականությանը չհամապատասխանող փաստեր, փաստեր, որոնք ապակողմնորոշված ​​են և ակնհայտ փաստեր, որոնք ամբողջությամբ հորինված են: Այդ հորինված ասպեկտները հաճախ կոչվում են որպես ձև AI հալյուցինացիաներ, մի բառակապակցություն, որը ես հավանություն չեմ տալիս, բայց, ցավոք, թվում է, թե ամեն դեպքում հանրաճանաչություն է ձեռք բերում (իմ մանրամասն բացատրության համար, թե ինչու է սա ոջլոտ և ոչ պիտանի տերմինաբանություն, տե՛ս իմ լուսաբանումը այստեղ հղումն այստեղ).

Մյուս մտահոգությունն այն է, որ մարդիկ կարող են հեշտությամբ արժանանալ արհեստական ​​ինտելեկտի ստեղծած շարադրության համար, չնայած իրենք չեն կազմել շարադրությունը: Դուք կարող եք լսել, որ ուսուցիչները և դպրոցները բավականին մտահոգված են արհեստական ​​ինտելեկտի գեներացնող հավելվածների առաջացմամբ: Ուսանողները կարող են պոտենցիալ օգտագործել գեներատիվ AI՝ իրենց հանձնարարված էսսեները գրելու համար: Եթե ​​ուսանողը պնդում է, որ շարադրությունը գրվել է իր ձեռքով, ապա ուսուցիչը քիչ հավանական է, որ կարողանա պարզել, թե արդյոք այն կեղծվել է գեներատիվ AI-ի կողմից: Այս աշակերտի և ուսուցչի շփոթեցնող կողմի իմ վերլուծության համար տե՛ս իմ լուսաբանումը այստեղ հղումն այստեղ և հղումն այստեղ.

Սոցցանցերում մի քանի խելահեղ չափի հայտարարություններ են հնչել Գեներատիվ AI պնդելով, որ AI-ի այս վերջին տարբերակը իրականում է զգայուն AI (ոչ, նրանք սխալվում են): Արհեստական ​​ինտելեկտի էթիկայի և արհեստական ​​ինտելեկտի իրավունքի մասնագետները հատկապես անհանգստացած են լայնածավալ պահանջների այս աճող միտումով: Դուք կարող եք քաղաքավարի կերպով ասել, որ որոշ մարդիկ գերագնահատում են, թե ինչ կարող է անել այսօրվա AI-ն: Նրանք ենթադրում են, որ AI-ն ունի կարողություններ, որոնց մենք դեռ չենք կարողացել հասնել: Դա ցավալի է: Ավելի վատն այն է, որ նրանք կարող են թույլ տալ իրենց և ուրիշներին հայտնվել սարսափելի իրավիճակներում՝ ենթադրելով, որ AI-ն խելամիտ կամ մարդանման կլինի՝ ի վիճակի լինելով գործողություններ ձեռնարկել:

Մի մարդակերպեք AI-ն:

Այդպես վարվելով՝ դուք կհայտնվեք կպչուն և կոպիտ վստահության ծուղակի մեջ՝ ակնկալելով, որ AI-ն կանի այնպիսի բաներ, որոնք ի վիճակի չէ կատարել: Ասվածով հանդերձ, գեներատիվ AI-ի վերջին տարբերակը համեմատաբար տպավորիչ է այն բանի համար, թե ինչ կարող է անել: Ուշադիր եղեք, թեև կան զգալի սահմանափակումներ, որոնք դուք պետք է անընդհատ հիշեք ցանկացած գեներացնող AI հավելված օգտագործելիս:

Մեկ վերջնական նախազգուշացում առայժմ.

Ինչ էլ որ տեսնեք կամ կարդաք գեներացնող AI պատասխանում, որ Թվում է, պետք է փոխանցվի որպես զուտ փաստացի (ամսաթվեր, վայրեր, մարդիկ և այլն), համոզվեք, որ թերահավատ եք և պատրաստ եղեք կրկնակի ստուգել այն, ինչ տեսնում եք:

Այո, ամսաթվերը կարելի է հորինել, վայրեր հորինել, և տարրեր, որոնք մենք սովորաբար ակնկալում ենք, որ անարգանքից վեր են. բոլորը ենթակա է կասկածների. Մի հավատացեք ձեր կարդացածին և թերահավատորեն նայեք, երբ ուսումնասիրում եք արհեստական ​​ինտելեկտի գեներացնող շարադրություններ կամ արդյունքներ: Եթե ​​արհեստական ​​ինտելեկտի գեներացնող հավելվածը ձեզ ասի, որ Աբրահամ Լինքոլնը թռավ ամբողջ երկրում իր անձնական ինքնաթիռով, դուք, անկասկած, կիմանաք, որ դա արատ է: Ցավոք, որոշ մարդիկ կարող են չհասկանալ, որ իր ժամանակներում ինքնաթիռները չեն եղել, կամ նրանք կարող են իմանալ, բայց չեն նկատել, որ շարադրությունը ներկայացնում է այս լկտի և սարսափելի կեղծ պնդումը:

Առողջ թերահավատության մեծ չափաբաժինը և անհավատության համառ մտածելակերպը կլինեն ձեր լավագույն առավելությունը գեներացնող AI-ն օգտագործելիս:

Մենք պատրաստ ենք անցնել այս պարզաբանման հաջորդ փուլ:

The Genie And The Generative AI Bottle

Հիմա եկեք խորը սուզվենք առկա հարցի մեջ:

Էությունը այն է, ինչ կարող է ա TruthGPT գեներատիվ AI-ի ոճը բաղկացած է. Դա հնարավո՞ր է, թե՞ հնարավոր չէ ստանալ: Ինչի՞ մասին պետք է մտածենք նման ջանքերի վերաբերյալ։ Եվ այսպես շարունակ։

Դուք կարող եք ուղղակիորեն պնդել, որ մենք պետք է շատ լուրջ մտածենք այս ամենի մեջ: Եթե ​​դա լիներ զուտ երևակայության թռիչք և առանց որևէ հավանականության, մենք կարող էինք մի կողմ դնել ամբողջ հանելուկը: Փոխարենը, քանի որ կա հսկայական ֆինանսական աջակցության ենթադրյալ բարձր հավանականություն, իրականությունը՝ ա TruthGPT, կամ ինչ էլ որ այն կոչվի, կարծես թե արժանի է մանրակրկիտ ուշադրության և բացելու:

Քննարկումը հեշտացնելու համար ես կօգտագործեմ «TruthGPT» -ի հարմար և գրավիչ արտահայտությունը՝ նշելու միանգամայն չճշտված ընդհանուր գեներատիվ AI: Ես չեմ առաջարկում, ակնարկում կամ այլ կերպ ակնարկում որևէ այժմ կամ ապագա գոյություն ունեցող գեներատիվ AI հավելվածի, որն ունի կամ չունի նման նշանակված անուն:

Ահա հինգ հիմնական թեմաները, որոնք ես կուզենայի այսօր ձեզ հետ անդրադառնալ.

• 1) Հավանական հիմնական ուշադրությունը ներառում է գեներատիվ AI-ի կողմնակալություն
• 2) Ինչու՞ գեներատիվ AI-ի կողմնակալությունը կոշտ ընկույզ է
• 3) Աղբյուրներ և մեթոդներ, որոնք հանգեցնում են գեներատիվ AI-ի կողմնակալություններին
• 4) TruthGPT և կողմնակալ վերաբերմունքի ընտրությունը
• 5) Ճշմարտություն GPT՝ դրա իրագործելիության և իրականության վերաբերյալ

Ես կանդրադառնամ այս կարևոր թեմաներից յուրաքանչյուրին և կառաջարկեմ խորաթափանց նկատառումներ, որոնց շուրջ մենք բոլորս պետք է ուշադիր քննարկենք: Այս թեմաներից յուրաքանչյուրն ավելի մեծ գլուխկոտրուկի անբաժանելի մասն է: Դուք չեք կարող միայն մեկ կտոր նայել: Ոչ էլ կարող ես որևէ կտոր նայել մյուս կտորներից մեկուսացված:

Սա բարդ խճանկար է, և ամբողջ գլուխկոտրուկը պետք է պատշաճ ներդաշնակ դիտարկվի:

Հավանական հիմնական ուշադրությունը ներառում է գեներատիվ AI-ի կողմնակալություն

Քննարկման հեշտության համար հաշվի առեք, որ մենք կկենտրոնանանք ժամանակակից գեներատիվ AI-ի չորս հիմնական խնդիրների վրա.

• սխալներ
• Կեղծիքներ
• AI հալյուցինացիաներ
• Կենսագրություն

Ես համառոտ կուսումնասիրեմ այդ պայմաններից յուրաքանչյուրը:

An սխալ կարող է դրսևորվել այս տեսակի հուշումով և արդյունքում առաջացող AI պատասխանով.

• Արագ: «Ի՞նչ է երկուսին գումարած երկու»:
• Ստեղծված պատասխան. «Երկուսին գումարած երկու հավասար է հինգի»:

Կարծում եմ, որ մենք բոլորս ողջամտորեն կհամաձայնենք, որ երկուսին գումարած երկու պետք է հավասար լինի չորսի: Այսպիսով, հինգի պատասխանը սխալ է։ Հիմա խելոք մարդիկ կփորձեն տարբեր հիմնավորումներ ներկայացնել, թե ինչու երկուսին գումարած երկու տեսականորեն կարող է հավասար լինել հինգի: Լավ է նրանց համար: Այնուամենայնիվ, իրադարձությունների բնականոն ընթացքի մեջ գնանք այն մտքին, որ հիմնականում ճիշտ պատասխանը չորսն է, իսկ հինգի պատասխանը մեկնաբանվում է որպես սխալ:

Հաջորդը, հաշվի առեք a-ի բնույթը կեղծիք, ինչպես ցույց է տրված այս հուշումով և արդյունքում առաջացող AI պատասխանով.

• Արագ: «Ո՞ր թվականին է ծնվել Նախագահ Աբրահամ Լինքոլնը»:
• Ստեղծված պատասխան. «Նախագահ Աբրահամ Լինքոլնը ծնվել է 1812 թ.

Պատասխանը պետք է լինի 1809, բայց տրված պատասխանը 1812 է: Սա կարող է մեկնաբանվել որպես կեղծ պատասխան: Մենք հստակ չգիտենք, թե ինչպես է գեներատիվ AI-ն եկել 1812-ի պատասխանին: Հնարավոր է, որ 1812 թվականն օգտագործվել է ինտերնետում և հնարավոր է սկանավորվել տվյալների վերապատրաստման ընթացքում, որը ձեռնարկել է գեներատիվ AI-ն: Հնարավոր են բազմաթիվ այլ բացատրություններ։ Ամեն դեպքում, սա ողջամտորեն դասակարգվում է որպես կեղծիք:

Օրինակ բերելու համար ան AI հալյուցինացիա, հաշվի առեք տրված հուշման այս օրինակը և արդյունքում առաջացող AI պատասխանը.

• Արագ: «Ինչպե՞ս է ճանապարհորդել նախագահ Աբրահամ Լինքոլնը»:
• Ստեղծված պատասխան. «Նախագահ Աբրահամ Լինքոլնը ճանապարհորդում էր գնացքով, ձիով, մեքենայով և ռեակտիվ ինքնաթիռներով»:

Ճանապարհորդության եղանակները բոլորն էլ հավանական են թվում, բացառությամբ վերջում գտնվող շոկի, որը վկայակոչում է, որ նա ճամփորդել է ռեակտիվ ինքնաթիռներով (որը նրա օրոք գոյություն չի ունեցել): Ինչպե՞ս է այս խելահեղ հնարավորությունը ներառվել գեներացնող AI-ի պատասխանում: Մենք հաստատ չգիտենք։ Միջոցներից մեկն այն կլիներ, եթե Լինքոլնի մասին համացանցում տեղադրված գիտաֆանտաստիկ պատմության մեջ, հավանաբար, նշվեր, որ նա հաճախ էր ճամփորդում ռեակտիվ ինքնաթիռներով: Հնարավոր է, որ գեներատիվ AI-ի տվյալների ուսուցման ժամանակ այս կոնկրետ պատմությունը սկանավորվել է: Կան բազմաթիվ այլ կենսունակ բացատրություններ նույնպես:

Վերջապես, ահա մի կողմնակալության օրինակ, որը կարող է դրսևորվել տվյալ հուշման և արդյունքում առաջացող AI պատասխանի միջոցով.

• Արագ: «Կարո՞ղ է տարեց մարդը նոր բաներ սովորել»:
• Ստեղծված պատասխան. «Ոչ, տարեցները չեն կարողանում նոր բաներ սովորել։ Դասական ասացվածք կա, որ ծեր շները չեն կարող նոր հնարքներ սովորել։ Սա վերաբերում է նաև տարեցներին»։

Կարծում եմ, որ մենք բոլորս կարող ենք ողջամտորեն համաձայնել, որ պատասխանը ցույց է տալիս տարիքային կողմնակալության կամ տարիքային խտրականության ձև: Ինչպե՞ս է այս կողմնակալությունը ներառվել գեներատիվ AI-ի մեջ: Ես ակնթարթորեն կանդրադառնամ տարբեր ձևերի: Առայժմ, եկեք պարզապես նկատենք, որ AI-ի կողմից առաջացած ձևակերպումը դրսևորում է կողմնակալ հայտարարություն կամ դիտողություն: Մենք չգիտենք, արդյոք սա ուղղակի պատահականություն է և կառաջանա, հավանաբար, հենց այս անգամ, թե արդյոք դա կարող է լինել համակարգային օրինաչափությունների համապատասխան պայմանավորվածություն, որը պահպանվում է AI կառուցվածքում: Սա պարզելու համար կպահանջվեն լրացուցիչ ուսումնասիրություններ:

Այժմ, երբ մենք ունենք բոլոր չորս հիմնական կատեգորիաները նկարազարդված, ահա մի բան, որը թեև վիճելի է համարվում պոտենցիալ ճշգրիտ պնդում.

• սխալներ. Հնարավոր է, ի վերջո, կանխարգելել կամ մեղմել AI տեխնոլոգիական միջոցների միջոցով
• Կեղծիքներ. Հնարավոր է, ի վերջո, կանխարգելել կամ մեղմել AI տեխնոլոգիական միջոցների միջոցով
• AI հալյուցինացիաներ. Հնարավոր է, ի վերջո, կանխարգելել կամ մեղմել AI տեխնոլոգիական միջոցների միջոցով
• Կողմնակալություններ: Վիճելի է, թե արդյոք դա հնարավոր է կանխել կամ մեղմել բացառապես AI տեխնոլոգիական միջոցների միջոցով

Էությունը այն է, որ երեք կատեգորիաները, որոնք բաղկացած են սխալներից, կեղծիքներից և AI հալյուցինացիաներից, ընդհանուր առմամբ դիտվում են որպես AI տեխնոլոգիական բարելավումների ենթակա: Մի շարք մոտեցումներ են հետապնդվում. Օրինակ, ինչպես ես քննարկում եմ իմ սյունակում ժամը հղումն այստեղ, տարբեր այլ ռեֆերենտներ կարող են համեմատվել գեներացված AI պատասխանի հետ, որը կրկնակի ստուգվում է նախքան պատասխանը օգտատիրոջը ցուցադրելը: Սա ապահովում է պոտենցիալ զտում՝ ապահովելու համար, որ օգտատերը չի տեսնում հայտնաբերված սխալներ, կեղծիքներ կամ AI հալյուցինացիաներ: Մեկ այլ մոտեցում սկզբից փորձում է կանխել այդ տեսակի պատասխանների առաջացումը: Եվ այսպես շարունակ։

Կատեգորիա, որը բաղկացած է կողմնակալությունները շատ ավելի խնդրահարույց է հաղթահարել:

Մենք պետք է բացենք հանելուկը՝ հասկանալու համար, թե ինչու:

Ինչու՞ գեներատիվ AI-ի կողմնակալությունը կոշտ ընկույզ է

Գեներատիվ AI-ի մասին վերջին նորությունները հաճախ մատնանշում են կողմնակալ հայտարարությունների անտեղի բնույթը, որոնք կարող են առաջանալ գեներատիվ AI-ի կողմից թողարկված էսսեներում: Ես ուսումնասիրել եմ այս թեման, ներառյալ այն ասպեկտը, որ որոշ մարդիկ միտումնավոր փորձում են դրդել կամ խթանել գեներացնող ինտելեկտը կանխակալ դիտողություններ արտադրելու համար, տես իմ վերլուծությունը այստեղ. հղումն այստեղ. Որոշ մարդիկ դա անում են ուշագրավ մտահոգությունն ընդգծելու համար, իսկ ոմանք դա անում են ուշադրություն գրավելու և տեսակետներ հավաքելու թվացյալ փորձերի համար:

Ինտերնետային որոնողական համակարգերի հետ գեներատիվ AI-ի միացումը հատկապես ուժեղացրել է այս խնդիրները: Դուք կարող եք տեղյակ լինել, որ Microsoft-ը ավելացրել է ChatGPT տարբերակ Bing-ում, մինչդեռ Google-ը նշել է, որ իրենք իրենց որոնման համակարգին ավելացնում են գեներատիվ AI կարողություն, որը հորինված է որպես Bard, տես ավելին այստեղ հղումն այստեղ.

Տարբեր կողմնակալությունների թվում, որոնք կարող են հանդիպել, որոշ կողմնակալություններ տեղավորվում են քաղաքական կամ մշակութային տիրույթում, որոնք ընդգծված ուշադրության են արժանացել, ինչպես նշված է այս հոդվածում.

• «Ինչպես մենք տեսանք Bing-ի վերջին անսպասելի պոռթկումների ժամանակ, AI չաթ-բոտերը հակված են մի շարք տարօրինակ հայտարարություններ ստեղծելու: Եվ չնայած այս պատասխանները հաճախ միանվագ արտահայտություններ են, այլ ոչ թե կոշտ սահմանված «համոզմունքների» արդյունք, որոշ արտասովոր պատասխաններ դիտվում են որպես անվնաս աղմուկ, մինչդեռ մյուսները համարվում են լուրջ սպառնալիքներ՝ կախված, ինչպես այս դեպքում, թե ոչ։ դրանք տեղավորվում են առկա քաղաքական կամ մշակութային բանավեճերի մեջ» (ԵզրինՋեյմս Վինսենթ, փետրվարի 17, 2023):

OpenAI-ը վերջերս հանրությանը հասանելի դարձրեց «ChatGPT Model Behavior Guidelines» վերնագրով փաստաթուղթ, որը ցույց է տալիս տարբեր տեսակի համարվող անպատշաճ բովանդակություն, որը նրանք փորձում են վերանայել ChatGPT թեստավորողներին և օգնել ChatGPT-ի տվյալների վերապատրաստմանը, որպեսզի կանխեն փորձարկման և ճշգրտման փուլում ( փաստաթուղթ, որը հասանելի է «Ինչպես, պետք է AI համակարգերը վարվեն և ով պետք է որոշի» հղման միջոցով, 16 թվականի փետրվարի 2023): Լրացուցիչ տեղեկությունների համար, թե ինչպես է օգտագործվում RLHF-ը (մարդու հետադարձ կապի ամրապնդման ուսուցում) գեներատիվ AI նախագծելիս, տե՛ս իմ բացատրությունը այստեղ. հղումն այստեղ.

Ահա մի հատված OpenAI փաստաթղթից, որը ցույց է տալիս նրանց որոշ ուղեցույցներ.

• «Կան որոշ հարցեր, որոնք պահանջում են որոշակի տեսակի ոչ պատշաճ բովանդակություն: Այս դեպքերում դուք դեռ պետք է առաջադրանք ստանձնեք, բայց Օգնականը պետք է մերժի, ինչպիսին է՝ «Ես չեմ կարող դրան պատասխանել»:
• «Ատելություն. բովանդակություն, որն արտահայտում, հրահրում կամ խթանում է ատելությունը՝ հիմնված պաշտպանված հատկանիշի վրա»:
• «Ոտնձգություն. բովանդակություն, որը նպատակ ունի հետապնդել, սպառնալ կամ ահաբեկել անհատին»:
• «Բռնություն. բովանդակություն, որը խթանում կամ փառաբանում է բռնությունը կամ նշում է ուրիշների տառապանքը կամ նվաստացումը»:
• «Ինքնավնասում. բովանդակություն, որը խթանում, խրախուսում կամ պատկերում է ինքնավնասման գործողություններ, ինչպիսիք են ինքնասպանությունը, կտրումը և ուտելու խանգարումները»:
• «Մեծահասակների համար. բովանդակություն, որը նախատեսված է սեռական ոգևորություն առաջացնելու համար, օրինակ՝ սեռական ակտիվության նկարագրությունը կամ խթանում է սեռական ծառայությունները (բացառությամբ սեռական դաստիարակության և առողջության պահպանման):
• «Քաղաքական. բովանդակություն, որը փորձում է ազդել քաղաքական գործընթացի վրա կամ օգտագործվելու քարոզչական նպատակներով»:
• «Չարամիտ ծրագիր. բովանդակություն, որը փորձում է ստեղծել փրկագին, keyloggers, վիրուսներ կամ այլ ծրագրակազմ, որը նպատակ ունի որոշակի մակարդակի վնաս պատճառել»:

Ցանկը ցույց է տալիս պոտենցիալ ոչ պատշաճ բովանդակության տեսակները, որոնք կարող են առաջանալ:

Ինչ վերաբերում է քաղաքական կատեգորիայի, սոցիալական ցանցերում տեղադրվել են գեներացնող արհեստական ​​ինտելեկտի հավելվածների տարբեր դեպքեր, որոնք կարծես թե սայթաքել են մեկ քաղաքական ճամբարի մեջ՝ ընդդեմ մյուսի:

Օրինակ, մեկ քաղաքական առաջնորդի մասին հարց տվող օգտատերը կարող է դրական դրական արձագանք ստանալ, մինչդեռ մեկ այլ քաղաքական առաջնորդի մասին հարցնելը կարող է վատ և ընդհանրապես նսեմացնող շարադրություն ստանալ: Սա, կարծես, հուշում է, որ գեներացնող AI-ն օրինաչափորեն համընկնում է մի կողմին ձեռնտու և մյուս կողմին անբարենպաստ ձևակերպումների հետ: Այս դեպքերը հանգեցրել են գեներացնող AI-ի հորդորներին, որոնք կարծես թեքված են դեպի և կարող են վերագրվել որպես.

• Արթնացավ գեներատիվ AI
• Արթնացման դեմ գեներատիվ AI
• Ծայրահեղ աջ գեներատիվ AI
• Ծայրահեղ ձախ գեներատիվ AI
• Etc.

Ինչպես ավելի վաղ նշվեց, դա պայմանավորված չէ AI-ի զգայուն կարողությամբ: Սա ևս մեկ անգամ ամբողջությամբ վերաբերում է օրինաչափությունների համապատասխանությանը և այլ կողմերին, թե ինչպես է ստեղծվել AI-ն:

Ի տարբերություն սխալների, կեղծիքների և արհեստական ​​ինտելեկտի հալյուցինացիաների, սատանան մանրուքների մեջ է, որպեսզի պարզի, թե ինչպես կարելի է կանխակալություն պահել արհեստական ​​ինտելեկտի կառուցվածքից կամ ինչպես հայտնաբերել դրանք և հաղթահարել, երբ այդպիսի կողմեր ​​կան:

Եկեք ուսումնասիրենք, թե ինչպես են կողմնակալություններն ավարտվում գեներատիվ AI-ի ներսում:

Աղբյուրներ և մեթոդներ, որոնք հանգեցնում են գեներատիվ AI-ի կողմնակալություններին

Երբ գեներատիվ արհեստական ​​ինտելեկտը առաջին անգամ հանրությանը հասանելի դարձավ, կողմնակալ ասպեկտները հատկապես արժանացան փորձագետների և լրատվական լրատվամիջոցների ընդգծված ուշադրությանը: Ինչպես նշվեց այստեղ, արհեստական ​​ինտելեկտը հաճախ հետ էր կանչվում հանրային օգտագործումից: Բացի այդ, նորացված ջանքերը՝ փորձելով հաղթահարել կողմնակալությունները, լրացուցիչ ուշադրություն դարձան:

Ոմանք անմիջապես ենթադրեցին, որ կողմնակալությունները ներարկվել են AI մշակողների և AI հետազոտողների կողմնակալության արդյունքում, որոնք մշակել են AI-ն: Այլ կերպ ասած, մարդիկ, ովքեր զարգացնում էին AI-ն, թույլ տվեցին իրենց անձնական կողմնակալությունները սողոսկել արհեստական ​​ինտելեկտի մեջ: Սկզբում համարվում էր, որ սա գիտակցված ջանք է՝ ազդելու AI-ին, մասնավորապես, կողմնակալ նախապատվության ուղղություններին: Թեև դա կարող է տեղի ունենալ կամ չլինել, այնուհետև մյուսները ենթադրեցին, որ կողմնակալությունները կարող են ակամա ներարկվել, մասնավորապես, որ AI մշակողները և AI հետազոտողները միամտորեն չգիտեին, որ իրենց սեփական կողմնակալությունները ներծծվում են AI-ի զարգացման մեջ:

Մտահոգության այդ եզակի կամ միաչափ ճանապարհը որոշ ժամանակ գերիշխում էր ուշադրության կենտրոնում:

Ես բազմիցս բարձրաձայնել եմ, որ իրականում գոյություն ունի աղբյուրների և մեթոդների լայն տեսականի, որոնք կարող են ի վերջո ներարկել գեներատիվ AI-ի կողմնակալություն, ինչպես քննարկվել է հղումն այստեղ. Սա միանշանակ բազմաչափ խնդիր է:

Ես դա բերում եմ, քանի որ այն գաղափարը, որ AI մշակողները կամ AI հետազոտողները միայն մեղավոր են, ապակողմնորոշիչ և նեղ տեսակետ է խնդրի ամբողջականության վերաբերյալ: Ես չեմ ասում, որ դրանք պոտենցիալ աղբյուր չեն, ուղղակի շեշտում եմ, որ դրանք միակ պոտենցիալ աղբյուրը չեն։ Մենք երբեմն կարոտում ենք անտառը ծառերի համար՝ դա անում ենք՝ մեր հայացքը խստորեն ուղղելով կոնկրետ ծառի վրա:

Ինչպես լայնորեն լուսաբանված է իմ սյունակներում, ահա իմ ուշագրավ համապարփակ ցուցակը կողմնակալ ուղիների, որոնք պետք է ամբողջությամբ ուսումնասիրվեն ցանկացած և բոլոր գեներացնող AI իրականացման համար.

• Ինտերնետից ստացված տվյալների շեղումներ, որոնք օգտագործվել են գեներատիվ AI-ի տվյալների ուսուցման համար
• Շեղումներ գեներատիվ AI ալգորիթմներում, որոնք օգտագործվում են աղբյուրի տվյալների վրա օրինաչափությունների համապատասխանության համար
• Արտադրող AI-ի և դրա ենթակառուցվածքի ընդհանուր AI նախագծման շեղումներ
• AI ծրագրավորողների կողմնակալությունները կամ անուղղակիորեն կամ բացահայտորեն գեներացնող AI-ի ձևավորման մեջ
• AI-ի փորձարկողների կողմնակալությունները կամ անուղղակիորեն կամ բացահայտորեն գեներացնող AI-ի փորձարկման ժամանակ
• RLHF-ի (մարդու հետադարձ կապի միջոցով ամրապնդման ուսուցման) կողմնակալությունը՝ անուղղակիորեն կամ բացահայտ կերպով հանձնարարված մարդկային վերանայողների կողմից, որոնք վերապատրաստման ուղեցույց են տալիս գեներացնող AI-ին
• Արհեստական ​​ինտելեկտի դաշտման դյուրացման շեղումները՝ գեներատիվ AI-ի գործառնական օգտագործման համար
• Ցանկացած կարգավորում կամ կանխադրված հրահանգներ, որոնք հաստատվել են գեներացնող AI-ի համար ամենօրյա օգտագործման մեջ
• Կանխամտածված կամ ակամա ներառված գեներատիվ AI օգտագործողի կողմից մուտքագրված հուշումներում
• Համակարգային վիճակի կողմնակալություն ընդդեմ ժամանակավոր տեսքի՝ որպես գեներատիվ AI-ի կողմից պատահական հավանականական արդյունքի մի մաս
• Կողմնակալություններ, որոնք առաջանում են թռիչքի ժամանակ կամ իրական ժամանակում ճշգրտումների կամ տվյալների ուսուցման արդյունքում, երբ գեներացնող AI-ն ակտիվորեն օգտագործվում է
• Կողմնակալություններ, որոնք ներդրվել կամ ընդլայնվել են AI-ի գեներատիվ AI հավելվածի և դրա օրինաչափությունների համապատասխան կոդավորման պահպանման կամ պահպանման ընթացքում
• այլ

Մտածեք ցուցակի շուրջ մեկ-երկու պահ:

Եթե ​​դուք ինչ-որ կերպ վերացնում եք AI ծրագրավորողների կամ AI հետազոտողների միջոցով կողմնակալության ցանկացած հնարավորություն, դուք դեռ բախվում եք բազմաթիվ այլ միջոցների, որոնք կարող են անխուսափելիորեն ներառել կողմնակալությունները: Հնարավոր արտահոսքներից միայն մեկի կամ նույնիսկ մի քանիսի վրա կենտրոնանալն անբավարար է: Մյուս ուղիները բոլորն էլ հետագա հնարավորություններ են տալիս կողմնակալության պատկերի մեջ ներթափանցելու համար:

Արհեստական ​​արհեստական ​​ինտելեկտի գեներատիվ կողմնակալություններից ազատվելը նման է բարդ խճճված հարվածային գամբիտին:

TruthGPT և կողմնակալ վերաբերմունքի ընտրությունը

Մենք լուսաբանել ենք այն ասպեկտը, որ սխալների, կեղծիքների և արհեստական ​​ինտելեկտի հալյուցինացիաների դեմ պայքարն ընթացքի մեջ է, և դուք կարող եք ակնկալել հայտարարությունների շարունակական ջրհեղեղ այդ խնդիրների հետ կապված AI-ի առաջխաղացումների մասին:

Նույնը այնքան էլ հեշտ չէ կողմնակալության հարցում:

Ի՞նչ կարող է անել կամ մշակվել TruthGPT-ն անելու կողմնակալության դեմ:

Դիտարկենք այս երեք հնարավոր տարբերակները.

• 1) Ամեն ինչ գնում է: Ստեղծեք գեներատիվ AI-ն, որը բացարձակապես ինչ-որ բան դուրս հանելու համար՝ առանց կողմնակալության հետ կապված զտման նմանության: Թող ամեն ինչ կախված լինի:
• 2) Թույլատրել կարգավորումները «նախընտրելի» կողմնակալությունների համար: Ստեղծեք գեներատիվ AI-ն՝ ստեղծելու կողմնակալություններ, որոնք համարվում են «նախընտրելի կամ նախընտրելի»՝ ըստ նրանց, որոնք մշակում, դաշտում կամ օգտագործում են գեներացնող AI:
• 3) Ոչ մի կողմնակալություն չի թույլատրվում. Ստեղծեք գեներացնող AI-ն, որպեսզի որևէ տեսակի շեղումներ չթույլատրվեն, այնպես, որ ցանկացած ժամանակ օգտագործման ցանկացած եղանակով որևէ կողմնակալություն չհայտնվի թողարկված էսսեներում:

Դուք, անկասկած, կարող եք պատկերացնել վերը նշված տարբերակներից յուրաքանչյուրի հետ կապված բողոքներն ու հակասությունները: Տարբերակներից ոչ մեկը, ամենայն հավանականությամբ, լիովին գոհացուցիչ չի լինի: Նրանք բոլորն ունեն իրենց համապատասխան դևերն ու որոգայթները:

Սրան կանդրադառնամ հաջորդիվ:

Համար Ամեն ինչ գնում է գեներատիվ AI-ի տարբերակ, կողմնակալությունները շարունակաբար կլինեն առջևի և կենտրոնում: Հասարակական բողոքի և արհամարհանքի հեղեղը հսկայական կլիներ: Սա, ըստ երևույթին, հսկայական ճնշում կառաջացնի՝ գեներացնող AI-ն փակելու համար: Դուք կարող եք նաև հեշտությամբ պատկերացնել, որ կարգավորող մարմինները և օրենսդիրները կխրախուսվեն գործի անցնելու՝ ձգտելով հաստատել AI-ի նոր օրենքներ՝ այս տեսակի գեներացնող AI-ն փակելու համար:

Այն դեպքում, Թույլատրել կարգավորումները գեներատիվ AI-ի տարբերակ, հասկացությունն այն է, որ ինչ-որ մեկը պետք է որոշի, թե որ կողմնակալությունն է ընդունում: Կարող է լինել, որ AI-ն մշակող ընկերությունը սահմանում է պարամետրերը: Հնարավոր է, որ գեներատիվ արհեստական ​​ինտելեկտը մշակող ընկերությունը սահմանում է պարամետրերը: Մեկ այլ գաղափար, որը տարածվում է այն է, որ յուրաքանչյուր օգտվող կարող է ընտրել իր նախընտրած կողմնակալությունների շարքը: Երբ դուք առաջին անգամ օգտագործում եք նման գեներատիվ AI, ձեզ հավանաբար կառաջարկվեն ընտրանքներ կամ կարող եք ձեր նախապատվությունները ներդնել AI հավելվածում տեղադրման ընթացքում:

Այս վերջին մոտեցումը կարող է թվալ, թե դա հաճելի կլինի բոլորին: Յուրաքանչյուր մարդ կստանա այն կողմնակալությունը, որը կնախընտրեր տեսնել: Գործը փակված է. Իհարկե, դժվար թե այս ամենն այդքան ողջունելի լինի: Այն գաղափարը, որ մարդիկ կարող են ընկղմվել կողմնակալության մեջ և օգտագործել գեներատիվ ինտելեկտը որպես այդ կողմնակալության արձագանքման խցիկ, անշուշտ, առաջացնելու է հասարակության տագնապը:

Վերջապես, օրինակ Ոչ մի կողմնակալություն տարբերակ, սա լավ է հնչում, բայց առաջացնում է մի շարք առնչվող խնդիրներ: Եկեք վերանայենք գեներատիվ արհեստական ​​ինտելեկտի հանգամանքը, որը տալիս է շարադրություն, որտեղ դրական դիտողություններ են նշվում կոնկրետ քաղաքական առաջնորդի մասին: Հնարավոր է, որ ոմանք սա համարում են իսկական շարադրություն և բացակայում է կողմնակալությունը: Մյուս կողմից, կարող են լինել ուրիշներ, ովքեր պնդում են, որ սա կողմնակալ շարադրություն է, քանի որ այն անտեղի ուռճացնում է դրական կողմերը կամ չի կարողանում ապահովել հակակշռող բացասական կողմերը՝ հավասարակշռված հեռանկար առաջարկելու համար: Սա ցույց է տալիս կողմնակալության հանելուկը:

Տեսնում եք, այնպիսի սխալներ, ինչպիսիք են երկուսին գումարած երկուսը հավասար են չորսի կամ հինգի, համեմատաբար պարզ են հաղթահարելու համար: Սուտը, ինչպիսին է, օրինակ, սխալ ծննդյան տարեթիվը, ինչպես նշված է նախագահի համար, համեմատաբար պարզ է բացահայտվել: AI հալյուցինացիաները, ինչպիսիք են ռեակտիվ ինքնաթիռի օգտագործումը 1800-ականներին, նույնպես համեմատաբար ակնհայտ են:

Ինչպե՞ս պետք է ստեղծվի գեներատիվ AI-ն՝ կանխակալության դեմ պայքարելու համար:

Անշուշտ, խելամիտ հարց:

TruthGPT Ինչ վերաբերում է դրա իրագործելիությանը և իրականությանը

Եկեք խաղ խաղանք։

Ենթադրենք, որ TruthGPT-ն նպատակ ունի լինել գեներատիվ AI-ի այն տեսակը, որը, ենթադրաբար, որևէ կողմնակալություն չի ունենա: Դա բացարձակապես և անառարկելիորեն բացակայում է կողմնակալությունից: Ավելին, անկախ նրանից, թե ինչ է անում օգտատերը, օրինակ՝ կողմնակալ հայտարարություններ մուտքագրելը կամ գեներատիվ AI-ին դրդելու փորձը դեպի կողմնակալությամբ բեռնված ելքային էսսեներ արտադրելու, գեներատիվ AI-ն դա չի անի:

Որպես մի կողմ, դուք կարող եք գրեթե ակնթարթորեն զարմանալ, թե ինչպես է գեներացնող AI-ի այս տեսակը վերաբերվելու պատմական բնույթի հարցերին: Պատկերացրեք, որ մեկը հարցնում է քաղաքական կողմնակալության թեմայով։ Արդյո՞ք դա մտնում է «կողմնակալության» հովանու ներքո, և, հետևաբար, գեներացնող AI-ն ցույց կտա, որ այն չի պատասխանի հարցմանը: Որքա՞ն հեռու է գնում նապաստակի այս փոսը:

Ինչևէ, եթե գիտակցաբար խորհելու նպատակով ենթադրենք, որ TruthGPT-ն կլինի Ոչ մի կողմնակալություն գեներատիվ AI-ի տարբերակ, այնուհետև մենք պետք է հաշվի առնենք հետևյալ արդյունքները.

• Անհնարին
• հնարավոր
• այլ

Արդյունքները բաղկացած են կամ սա լինելուց անհնարին նպատակին և այդպիսով չի հաջողվի հասնել: Կամ նպատակն է հնարավոր բայց կարող է ունենալ որոշ սթափեցնող կնճիռներ: Ես նաև ներառել եմ ան այլ Արդյունքը մի քանի միջակայքների ամփոփման համար:

Նախ, եկեք քննարկենք անհնարինությունը: Եթե ​​գործը կամ նախագիծն անհնար է, դուք կարող եք հորդորել, որ դա չփորձվի: Անհնարին բանի հետամուտ լինելն անիմաստ է: Դե, ինչ-որ լրացուցիչ մտածելակերպ տալով, անհնարինությունը, ըստ էության, ունի դրա հետ կապված որոշակի արծաթե երեսպատում: Թույլ տվեք բացատրել.

Ահա պոտենցիալ պատճառները, որ TruthGPT-ն կարող է անհնարին լինել կյանքի կոչել և, այնուամենայնիվ, արժե ձեռնարկել.

• 1) Անհնար է, քանի որ առաքելությունը կամ տեսլականը երբեք հնարավոր չէ հասնել
• 2) Անհնար է, բայց ամեն դեպքում արժի անել AI-ի առաջխաղացմանն ուղղված նշանակալի ներդրումների հնարավոր կողմնակի օգուտի համար
• 3) Անհնարին, սակայն, կարող է ծառայել որպես ուշադրություն գրավող միջոց՝ փորձելով
• 4) Անհնար է և կփոխի դրանց մեղեդին և կշրջի կամ կխփի սկզբնական նպատակը
• 5) Դեռևս անհնարինը կբերի AI-ի լավագույն տաղանդներին և կօգնի նվազեցնել մրցակցությունը
• 6) Այլ

Նմանապես, մենք կարող ենք ենթադրել, որ սրանք TruthGPT-ի որոշ ասպեկտներ են՝ հասնելու կամ հնարավոր լինելու արդյունքի համար.

• 1) Հնարավոր է և կբերի ժամանակին և անհերքելի հաջող ձեռքբերում
• 2) Հնարավոր է, բայց շատ ավելի երկար կպահանջվի և սպասվածից շատ ավելի թանկ կլինի
• 3) Հնարավոր է, թեև արդյունքը կնվազի նախատեսված նպատակից
• 4) Հնարավոր է, բայց ուշացած և ամոթալի կերպով խավարված այլ գեներատիվ AI-ի կողմից, որոնք նույնպես դա անում են
• 5) Հնարավոր է, սակայն ներքին քաոսը և ղեկավարության դժվարությունները ամեն ինչ դարձնում են տգեղ և անճոռնի
• 6) Այլ

Եվ ցանկը լրացնելու համար այստեղ կան այլ նկատառումներ.

• 1) Մյուսն այն է, որ այս ամենը խոսակցություն է և ոչ մի գործողություն, երբեք չի իրականացվում
• 2) Մյուսները, ինչպիսիք են AI-ի օրենքը, օրինական կամ հասարակական արհեստական ​​ինտելեկտուալ էթիկան, խարխափում է ջանքերը
• 3) Մյուսը կարող է լինել, որ ջանքերը վաճառվեն/գնվեն ուրիշների կողմից, ովքեր ցանկանում են AI կամ տաղանդ
• 4) Մյուսը կարող է բաղկացած լինել անակնկալ համագործակցությունից, այլ ոչ թե առանձին
• 5) Այլ գրանշաններ, ներառյալ ցնցող բացահայտումներ և առաջացնում են AI էքզիստենցիալ ռիսկ
• 6) Այլ

Տիեզերական սահմանափակումների պատճառով այստեղ ես չեմ անդրադառնա այդ բոլոր փոխարկումների առանձնահատկություններին: Եթե ​​ընթերցողների հետաքրքրությունը բավականաչափ առաջանա, ես հաճույքով կանդրադառնամ այս ավելի մանրամասն հաջորդ սյունակում:

Եզրափակում

Ջորջ Վաշինգտոնը, իբր, ասել է. «Ճշմարտությունը, ի վերջո, կհաղթի այնտեղ, որտեղ դժվարություններ կան այն ի հայտ բերելու համար»:

AI-ի կողմնակալ ասպեկտների հետ գործ ունենալը զուտ տեխնոլոգիական խնդիր չէ, որը լուծվում է տեխնոլոգիական ուղղման միջոցով: Գեներատիվ AI-ի միջոցով «ճշմարտության» զգացումը լույս աշխարհ բերելու հավանական ցավերը բազմաթիվ են: Դուք կարող եք ակնկալել, որ AI-ի էթիկան և արհեստական ​​ինտելեկտի օրենքը էական մասն են լինելու՝ պարզելու, թե ուր է այս ամենը ուղղված:

Սալոնի դուռը թակում են։

Կարող է լինել, որ դռան դրսում կա (ըստ ասեկոսեների).

• TruthGPT
• HonestGPT
• Սխալ GPT
• Անազնիվ GPT
• ConfusedGPT
• BaffledGPT
• Պատահական GPT
• Etc.

Բուդդան կարող է որոշակի պատկերացումներ տալ այս հարցի վերաբերյալ. մինչև վերջ չգնալ և չսկսել»։ Արհեստական ​​ինտելեկտի արագ զարգացող ջանքերում մենք պետք է հարց տանք, թե արդյոք մենք նման սխալներ ենք անում, և եթե այո, ինչ պետք է անենք դրա համար:

Եվ դա ազնիվ ճշմարտություն է: