Արդյո՞ք այդ գեներատիվ AI ChatGPT-ի սխալ և հալյուցինացիոն արդյունքների բացահայտումը և գրանցումը որևէ լավ բան են անում, հարցնում է AI էթիկան և AI օրենքը

Դուք գաղտնիք եք փնտրում:

Այո, թաքնված ինչ-որ բան է տեղի ունենում ինտելեկտուալ ինտելեկտի ամենավերջին կուլիսներում, որի մասին գուցե ցանկանաք իմանալ:

Այսօրվա սյունակում ես կուսումնասիրեմ ենթադրյալ սխալները և այլ հիվանդությունները, որոնք կապված են AI հավելվածից հայտնի ChatGPT անվամբ հայտնի էսսեների հետ կապված ենթադրյալ սխալների հետ: Այս կոնկրետ հավելվածն օգտագործում է AI-ի մի տեսակ, որը կոչվում է Գեներատիվ AI. Դուք հավանաբար լսել կամ տեսել եք ակնառու վերնագրեր գեներատիվ վրա հիմնված AI-ի և ChatGPT-ի մասին: Լուրը սարսափելի է այս կոնկրետ AI հավելվածի և այս տեսակի AI-ի հետ կապված թվացյալ ապշեցուցիչ հնարավորությունների մասին:

Քանի որ ես շուտով կանդրադառնամ, ոմանք խորապես հավատում են, որ մենք պետք է ցուցակ կազմենք, թե ինչպիսի սխալներ կամ սխալներ կարող է առաջացնել AI հավելվածը, երբ այն ստեղծում է ձեզ համար շարադրություն: Մյուսները ենթադրում են, որ թեև նման ցուցակի գաղափարը հիացմունքի է արժանի, այն ունայնության վարժություն է և շատ քիչ արդյունք կտա:

Մենք քննելու ենք այդ կատաղի բանավեճի երկու կողմերը:

Նախ, եկեք համոզվենք, որ մենք բոլորս նույն էջում ենք, թե ինչից է բաղկացած Generative AI-ն, ինչպես նաև այն, թե ինչ է ChatGPT-ն:

ChatGPT-ը ընդհանուր նշանակության AI ինտերակտիվ խոսակցական համակարգ է, ըստ էության, թվացյալ անվնաս ընդհանուր չաթբոտ, այնուամենայնիվ, այն ակտիվորեն և եռանդով օգտագործվում է մարդկանց կողմից այնպես, որ շատերին գրավում է բոլորովին անզգույշ: Այն ամենը, ինչ դուք պետք է անեք այս տեսակի AI-ն օգտագործելու համար, մուտքագրեք հուշում, և AI հավելվածը ձեզ համար կստեղծի շարադրություն, որը կփորձի պատասխանել ձեր հուշմանը:

Ցավոք, սա կարող է օգտագործվել ինչ-որ չափով կամ ոչ էթիկական կամ նենգ ձևերով: Հատկապես զայրացնող տագնապն այն է, որ ուսանողները կարող են օգտագործել գեներատիվ վրա հիմնված AI հավելված՝ իրենց հանձնարարված էսսեները պատրաստելու համար՝ դա անելով՝ պարզապես մուտքագրելով մեկ կամ երկու նախադասություն՝ հավելվածը ճիշտ ուղղությամբ տանելու համար: Ոմանք ողբում են, որ դա նշանակում է, որ ուսանողները դասից դուրս էսսեներ գրելիս կնախընտրեն խաբել: Ուսուցիչները փորձում են պարզել, թե ինչ անել, տես իմ վերլուծությունը և առաջարկությունները հղումն այստեղ.

Չնայած ChatGPT-ի համար գովելի գովասանքի անընդհատ աղմուկին, կա մի քիչ հայտնի մտահոգություն, որն արտահայտվում է հիմնականում AI-ի ինսայդերների կողմից, որ կան որոշ ուշագրավ խնդիրներ և անհանգստություններ, որոնց մասին մարդիկ պետք է անհանգստանան: Կարևոր բացասական կողմերից մեկն այն է, որ այս AI հավելվածի կողմից արտադրված էսսեները կարող են ներառել տարբեր կեղծիքներ, ներառյալ ակնհայտորեն իրականությանը չհամապատասխանող փաստեր, փաստեր, որոնք ապակողմնորոշված ​​են պատկերված և ակնհայտ փաստեր, որոնք ամբողջությամբ հորինված են: Այդ հորինված ասպեկտները հաճախ կոչվում են որպես ձև AI հալյուցինացիաներ, մի բառակապակցություն, որն ինձ դուր չի գալիս, բայց, ցավոք սրտի, թվում է, թե ամեն դեպքում լայն տարածում է գտնում (իմ մանրամասն բացատրության համար, թե ինչու է սա ոջլոտ և ոչ պիտանի տերմինաբանություն, տե՛ս իմ լուսաբանումը այստեղ հղումն այստեղ).

Կցանկանայի պարզաբանել մի կարևոր ասպեկտ, նախքան այս թեմայի շուրջ խորամանկության մեջ մտնելը:

Սոցցանցերում մի քանի խելահեղ չափի հայտարարություններ են հնչել Գեներատիվ AI պնդելով, որ AI-ի այս վերջին տարբերակը իրականում է զգայուն AI (ոչ, նրանք սխալվում են): Արհեստական ​​ինտելեկտի էթիկայի և արհեստական ​​ինտելեկտի իրավունքի մասնագետները հատկապես անհանգստացած են լայնածավալ պահանջների այս աճող միտումով: Դուք կարող եք քաղաքավարի կերպով ասել, որ որոշ մարդիկ գերագնահատում են այն, ինչ իրականում կարող է անել այսօրվա AI-ն: Նրանք ենթադրում են, որ AI-ն ունի կարողություններ, որոնց մենք դեռ չենք կարողացել հասնել: Դա ցավալի է: Ավելի վատն այն է, որ նրանք կարող են թույլ տալ իրենց և ուրիշներին հայտնվել սարսափելի իրավիճակներում՝ ենթադրելով, որ AI-ն խելամիտ կամ մարդանման կլինի՝ ի վիճակի լինելով գործողություններ ձեռնարկել:

Մի մարդակերպեք AI-ն:

Այդպես վարվելով՝ դուք կհայտնվեք կպչուն և կոպիտ վստահության ծուղակի մեջ՝ ակնկալելով, որ AI-ն կանի այնպիսի բաներ, որոնք ի վիճակի չէ կատարել: Ասվածով հանդերձ, գեներատիվ AI-ի վերջին տարբերակը համեմատաբար տպավորիչ է այն բանի համար, թե ինչ կարող է անել: Ուշադիր եղեք, թեև կան զգալի սահմանափակումներ, որոնք դուք պետք է անընդհատ հիշեք ցանկացած գեներացնող AI հավելված օգտագործելիս:

Եթե ​​դուք հետաքրքրված եք ChatGPT-ի և Generative AI-ի շուրջ արագորեն ընդլայնվող իրարանցմամբ, ես իմ սյունակում կենտրոնացված շարք եմ արել, որը կարող է ձեզ տեղեկատվական լինել: Ահա մի հայացք, եթե այս թեմաներից որևէ մեկը գրավի ձեր երևակայությունը.

• 1) Գալիք AI-ի գեներատիվ առաջընթացի կանխատեսումներ: Եթե ​​ցանկանում եք իմանալ, թե ինչ կարող է բացահայտվել AI-ի մասին ամբողջ 2023 թվականին և դրանից հետո, ներառյալ գեներատիվ AI-ի և ChatGPT-ի առաջիկա առաջընթացները, դուք կցանկանաք կարդալ 2023-ի կանխատեսումների իմ համապարփակ ցանկը. հղումն այստեղ.
• 2) գեներատիվ AI և հոգեկան առողջության խորհրդատվություն: Ես որոշեցի վերանայել, թե ինչպես են գեներատիվ AI-ն և ChatGPT-ն օգտագործվում հոգեկան առողջության վերաբերյալ խորհրդատվության համար, որը անհանգիստ միտում է, ըստ իմ կենտրոնացված վերլուծության: հղումն այստեղ.
• 3) Համատեքստ և գեներատիվ AI օգտագործում: Ես նաև սեզոնային համընդհանուր փորձաքննություն անցկացրեցի Ձմեռ պապի հետ կապված համատեքստի մասին, որը ներառում էր ChatGPT և գեներատիվ AI: հղումն այստեղ.
• 4) Խաբեբաներ, որոնք օգտագործում են Generative AI. Չարագուշակ նկատառմամբ՝ որոշ խաբեբաներ հասկացել են, թե ինչպես օգտագործել գեներատիվ AI-ն և ChatGPT-ը՝ սխալ արարքներ անելու համար, ներառյալ խարդախության նամակներ ստեղծելը և նույնիսկ չարամիտ ծրագրերի համար ծրագրավորման կոդ արտադրելը, տես իմ վերլուծությունը՝ հղումն այստեղ.
• 5) Նորեկի սխալներ՝ օգտագործելով Generative AI. Շատ մարդիկ և՛ գերազանցում են, և՛ զարմանալիորեն թերագնահատում են այն, թե ինչ կարող են անել գեներատիվ AI-ն և ChatGPT-ն, այնպես որ ես հատկապես նայեցի այն թերզարգացմանը, որը հակված են AI նորեկները, տես քննարկումը. հղումն այստեղ.
• 6) Հաղթահարել գեներատիվ AI հուշումներին և AI հալյուցինացիաներին. Ես նկարագրում եմ արհեստական ​​ինտելեկտի հավելումներ օգտագործելու առաջադեմ մոտեցումը՝ լուծելու տարբեր խնդիրներ, որոնք կապված են գեներատիվ AI-ի մեջ համապատասխան հուշումներ մուտքագրելու փորձի հետ, ինչպես նաև կան լրացուցիչ AI հավելումներ՝ այսպես կոչված AI հալյուցինացված ելքեր և կեղծիքներ հայտնաբերելու համար, ինչպես: ծածկված է հղումն այստեղ.
• 7) Բոնհեդի պնդումների բացահայտման վերաբերյալ գեներատիվ AI-ի կողմից արտադրված էսսեները հայտնաբերելու մասին. Արհեստական ​​ինտելեկտի հավելվածների սխալ ուղղորդված ոսկու տենդ կա, որոնք հայտարարում են, որ կարող են պարզել, թե արդյոք տվյալ շարադրությունը մարդու կողմից է արտադրվել, թե AI-ի կողմից ստեղծված: Ընդհանուր առմամբ, սա ապակողմնորոշիչ է և որոշ դեպքերում անհիմն և անհիմն պնդում, տես իմ լուսաբանումը այստեղ հղումն այստեղ.
• 8) Generative AI-ի միջոցով դերակատարումը կարող է առաջացնել հոգեկան առողջության թերություններ. Ոմանք օգտագործում են գեներատիվ AI, ինչպիսին է ChatGPT-ն՝ դեր խաղալու համար, որի շնորհիվ AI հավելվածը արձագանքում է մարդուն, կարծես գոյություն ունի ֆանտաստիկ աշխարհում կամ այլ հորինված միջավայրում: Սա կարող է ունենալ հոգեկան առողջության հետևանքներ, տես հղումն այստեղ.

Եկեք հենց հիմա քննարկենք գեներատիվ AI-ի և ChatGPT-ի էությունը, որպեսզի դուք իմանաք ներգրավված հիմքերը: Այնուհետև մենք պատրաստ կլինենք անցնելու կեղծ վերլուծության, որոնք կարող են առաջացնել այս AI հավելվածները: Ես կներառեմ ChatGPT-ի օգտագործման մի քանի օրինակներ, որոնք կօգնեն ձեզ շոշափելիորեն հասկանալ, թե ինչ է արտադրում այս տեսակի գեներատիվ AI-ն:

The Can Of Worms-ի բացում Generative AI-ի վրա

Մենք պատրաստ ենք խորամուխ լինել AI-ի մասին որոշ մանրամասների մեջ:

Եթե ​​դուք արդեն շատ լավ տիրապետում եք գեներատիվ AI-ի և ChatGPT-ի թեմային, կարող եք համառոտ կերպով անցնել իմ կետերը և շարունակել այս քննարկման հաջորդ բաժինը: Մնացած բոլորի համար, կարծում եմ, դուք կարող եք օգտակար գտնել այս պարզաբանումը:

Մի խոսքով, գեներատիվ AI-ն արհեստական ​​ինտելեկտի որոշակի տեսակ է, որը տեքստ է կազմում, կարծես տեքստը գրված է մարդու ձեռքով և մտքով: Ձեզ անհրաժեշտ է ընդամենը մուտքագրել հուշում, օրինակ՝ «Ասա ինձ Աբրահամ Լինքոլնի մասին» նախադասությունը, իսկ գեներատիվ AI-ն ձեզ կտրամադրի շարադրություն Լինքոլնի մասին: Սա սովորաբար դասակարգվում է որպես գեներատիվ AI, որը կատարում է տեքստից տեքստ կամ ոմանք նախընտրում են դա անվանել տեքստ-շարադրություն ելքը։ Հնարավոր է, որ դուք լսել եք գեներատիվ AI-ի այլ եղանակների մասին, ինչպիսիք են՝ տեքստը-արվեստ և տեքստ-տեսանյութ:

Ձեր առաջին միտքը կարող է լինել, որ սա այնքան էլ մեծ խնդիր չէ շարադրություններ պատրաստելու առումով: Դուք հեշտությամբ կարող եք առցանց որոնում կատարել ինտերնետում և հեշտությամբ գտնել տոննաներով ու տոննաներով էսսեներ Նախագահ Լինքոլնի մասին: Գեներատիվ AI-ի դեպքում ամենակարևորն այն է, որ ստեղծված շարադրությունը համեմատաբար եզակի է և ապահովում է բնօրինակ կոմպոզիցիա, այլ ոչ թե կրկնօրինակ: Եթե ​​դուք փորձեիք գտնել AI-ի կողմից պատրաստված շարադրությունը առցանց ինչ-որ տեղ, դժվար թե այն հայտնաբերեք:

Generative AI-ն նախապես պատրաստված է և օգտագործում է բարդ մաթեմատիկական և հաշվողական ձևակերպում, որը ստեղծվել է համացանցում գրավոր բառերի և պատմությունների օրինաչափությունների ուսումնասիրության միջոցով: Հազարավոր և միլիոնավոր գրավոր հատվածների ուսումնասիրության արդյունքում արհեստական ​​ինտելեկտը կարող է նոր էսսեներ և պատմություններ դուրս հանել, որոնք հայտնաբերվածի խառնուրդ են: Տարբեր հավանականական ֆունկցիոնալություններ ավելացնելով՝ ստացված տեքստը բավականին եզակի է՝ համեմատած այն, ինչ օգտագործվել է ուսումնական հավաքածուում:

Այդ իսկ պատճառով աղմուկ է բարձրացել այն մասին, որ ուսանողները կարող են խաբել դասարանից դուրս շարադրություններ գրելիս: Ուսուցիչը չի կարող պարզապես վերցնել այն շարադրությունը, որը խաբեբա ուսանողները պնդում են, որ իրենց գրածն է և փորձել պարզել, թե արդյոք այն պատճենված է այլ առցանց աղբյուրից: Ընդհանուր առմամբ, առցանց չի լինի որևէ վերջնական նախապես գոյություն ունեցող շարադրություն, որը համապատասխանի AI-ի կողմից ստեղծված շարադրանքին: Ամեն դեպքում, ուսուցիչը ստիպված կլինի դժկամությամբ ընդունել, որ ուսանողը գրել է շարադրությունը որպես օրիգինալ ստեղծագործություն:

Մի պահ ես ձեզ կցուցադրեմ, թե ինչ է տեղի ունենում, երբ դուք հարցեր կամ հուշումներ մուտքագրեք գեներատիվ AI-ի մեջ: Ես կօգտագործեմ ChatGPT-ի վերջին տարբերակը՝ իմ հուշումները մուտքագրելու համար և հավաքել եմ AI-ի կողմից ստեղծված «պատասխանները» կամ էսսեները (նկատի ունեցեք, որ նույնը կարելի է անել բազմաթիվ այլ հասանելի գեներատիվ AI հավելվածների հետ. ես որոշել եմ օգտագործել ChatGPT, քանի որ այն հենց հիմա ստանում է իր հինգ րոպե փառքը):

Հնարավոր է, որ ChatGPT-ի մասին կարճ շոշափումը կարող է օգտակար լինել այս պահին:

ChatGPT հավելվածը լայն հանրությանը հասանելի է դարձել ընդամենը մի քանի ամիս առաջ: Ընդհանուր առմամբ, այս գեներացնող AI հավելվածները սովորաբար հասանելի են միայն AI ինսայդերների համար: Անսովոր կողմը, որ ChatGPT-ը կարող էր օգտագործվել ցանկացածի կողմից՝ պարզապես մուտքագրելով էլփոստի հասցեն և անուն, լավ, դա հանգեցրեց նրան, որ շատ մարդիկ որոշեցին փորձել այն: ChatGPT-ն այժմ անվճար է օգտագործման համար (դրամայնացման խնդիրը AI ստեղծողների մոտ առաջացող երկընտրանք է):

Գրեթե անմիջապես սոցցանցերում հսկայական արձագանք եղավ, երբ մարդիկ վազում էին օրինակներ բերելու, թե ինչ կարող է անել գեներատիվ AI-ն: ChatGPT արտադրող ընկերությունը՝ OpenAI-ը, որոշել է փակել գրանցումները միլիոն օգտատերերի համար: Այդ միլիոն օգտատերերին հաջողվել է ռմբակոծել եթերը ChatGPT-ի օգտագործման մասին բոլոր տեսակի պատմություններով և հեքիաթներով:

Շատ զգույշ եղեք՝ հավատալով, թե մարդիկ ինչ են ասում AI հավելվածի մասին: Այս մարդկանցից շատերը չգիտեն, թե ինչ են օգտագործում: Կարծես նրանք երբեք մեքենա չեն վարել և չեն էլ գիտակցել, որ մեքենաներ կան, և հանկարծ նրանք մեքենա վարելու հնարավորություն ունեցան: Բացարձակ զարմանք է առաջանում.

Ես չեմ ասում, որ գեներատիվ AI-ն համեմատաբար տպավորիչ չէ: Դա է. Ես պարզապես շեշտում եմ, որ շատ բուռն վկայություններ արվում են շատերի կողմից, ովքեր երանաբար անտեղյակ են, թե ինչ կարող է անել այսօրվա AI-ն: Մեզանից նրանք, ովքեր գտնվում են AI-ի ներսում, վերջին մի քանի տարիների ընթացքում օգտագործում են գեներատիվ AI: Երևի մենք սովոր ենք դրան։ Հանկարծ տեսնելը, որ մարդկանց հսկայական ջարդը տանում է դեպի տանիքներ, ոգևորված է, բայց նաև որոշ չափով անհանգստացնող: Մտահոգիչ մասն այն է, երբ մարդիկ հայտարարում են, որ գեներատիվ AI-ն զգայուն է: Դա չէ. Թույլ մի տվեք, որ որևէ մեկը ձեզ հակառակը համոզի։

Այսպես ասվում է, որ արհեստական ​​ինտելեկտի ոլորտում շարունակվում են թեժ բանավեճեր այն մասին, թե արդյոք գեներատիվ AI-ն զգալու ճանապարհին է, թե գուցե ոչ: Տեսակետներից մեկն այն է, որ եթե մենք շարունակենք մեծացնել գեներատիվ AI-ն ավելի արագ համակարգիչներով և ավելի մեծ քանակությամբ տվյալներ, ինչպիսիք են ինտերնետի յուրաքանչյուր թիզ մաքրումը, մենք գրեթե ինքնաբերաբար կհասնենք զգայուն AI-ի: Մյուսները պնդում են, որ դա շատ քիչ հավանական է: Նրանք ենթադրում են, որ գեներատիվ AI-ն կարող է լինել անհրաժեշտ բազմաթիվ բաղադրիչներից մեկը: Նույնիսկ ավելի մռայլ տեսակետ կա, որ գեներատիվ AI-ն կողմնակի շոու է, որը շեղում է մեզ իրական բեկումներից, որոնք մեզ անհրաժեշտ կլինեն զգայուն AI-ին հասնելու համար:

Դուք կարող եք նաև ուշագրավ լինել, որին հակված են անդրադառնալ AI-ի ինսայդերները Արհեստական ​​ընդհանուր հետախուզություն (AGI)՝ որպես AI ոլորտի ձգտումային նպատակ: Նախկինում նպատակը հասնելն էր Արհեստական ​​բանականություն, բայց արհեստական ​​ինտելեկտի մականունը թուլացել և խառնվել է: Երբ ինչ-որ մեկն ասում է, որ անում է արհեստական ​​ինտելեկտի աշխատանք, դուք չգիտեք՝ արդյոք նրանք ակնարկում են այսօրվա AI-ին, որը չի համապատասխանում մարդկանց, թե՞ նրանք ակնարկում են մարդու ֆուտուրիստական ​​համարժեք AI-ին: Այդ զայրացնող շփոթությունը շրջանցելու համար այս օրերին օգտագործվում է AGI-ի ավելի նոր արտահայտությունը:

Ամեն դեպքում, այսօրվա գեներատիվ AI-ն է Նշում զգայական, ոչ էլ AGI:

Խնդրում ենք հիշել, որ ինչպես նախկինում խոսվեց, AI-ն զգայուն չէ: Արհեստական ​​ինտելեկտի կողմից ստեղծված պատասխանները բառերի մաթեմատիկական և հաշվողական համակցություն են՝ թվացյալ սահուն հատվածների մեջ: Սա հիմնված է արհեստական ​​ինտելեկտի ալգորիթմի վրա, որը վերապատրաստվել է մարդկանց կողմից գրված բառերի և պատմությունների տվյալների վրա (հիմնականում, ինչպես տեղադրված է ինտերնետում): Ես կրկնում եմ այս նախազգուշացումը, քանի որ դուք, անկասկած, ընկնելու եք մտավոր թակարդը, որ այս պատասխաններն այնքան սահուն են, որ AI-ն պետք է զգայական լինի: Սա պատահում է մարդկանց մեծամասնության հետ: Ինչպես ավելի վաղ կոչ արվեց, մի կողմ թողեք այդ մարդակերպությունը: Միշտ հիշեք, որ պատասխանները հիմնված են մարդկանց գրած հսկայական շտեմարանի վրա, որը գոյություն ունի ինտերնետում և, հետևաբար, շատ նման կլինի մարդկային գրությանը:

Կա ևս մեկ բան, որը դուք պետք է իմանաք:

Գեներատիվ ինտելեկտը, որը ուսուցանվում է ինտերնետում անկաշկանդ կերպով, հակված է ստանալու տեքստի վրա հիմնված ցանկացած պատասխան, որը մաթեմատիկորեն և հաշվողականորեն հորինում է վիրավորական մշուշոտ բաներ, ներառյալ նողկալի տհաճ ձևակերպումները: Այնտեղ համացանցում շատ խելագար և կեղտոտ բաներ են տեղադրված:

Դուք դա տեսել եք, գիտեք, թե ինչ նկատի ունեմ:

Ընկերությունները, որոնք պատրաստում են արհեստական ​​ինտելեկտի այս հավելվածները, անհանգստացած են, որ առած փոքրիկը լոգանքի ջրից դուրս կգա (հին ասացվածք, հավանաբար թոշակի անցնելու համար), ինչը նշանակում է, որ եթե նրանց արհեստական ​​ինտելեկտը վիրավորական շարադրություններ կամ պատմություններ ստեղծի, մարդիկ կգնան զենքով: AI-ի մասին. Ես լուսաբանել եմ բազմաթիվ նախկին դեպքեր, երբ բացահայտվել են բնական լեզվի մշակման (NLP) արհեստական ​​ինտելեկտի այս տեսակի հավելվածները, և շուտով դրանցից դուրս են եկել ամեն տեսակ սարսափելի բաներ (ես անդրադարձել եմ այս դեպքերին իմ սյունակում): AI արտադրողներից շատերը ծանր դասեր են քաղել իրենց AI արտադրանքները իրենց արտադրանքներում անկաշկանդ լինելու թույլ տալու մասին:

ChatGPT-ի դեպքում արհեստական ​​ինտելեկտի մշակողները ձգտել են իրականացնել որոշ ալգորիթմական և տվյալների հետ կապված ստուգումներ և հավասարակշռություններ՝ զսպելու AI-ի արդյունքների տհաճությունը: Դրա մի մասը տեղի է ունեցել մարզումների ժամանակ: Բացի այդ, կան նաև այլ միջոցներ, որոնք իրական ժամանակում փորձում են խուսափել հատկապես աղաղակող արդյունքներից:

Հնարավոր է, որ ձեզ հետաքրքրի, որ որոշ մարդիկ, ովքեր օգտագործել են ChatGPT-ն, արդեն գտել են գաղտագողի ճանապարհներ՝ շրջանցելու այդ պաշտպանիչ ռելսերը՝ օգտագործելով տարբեր հնարքներ: Այս հարցերում տեղի է ունենում կատվի ու մկան շարունակական խաղ: Նրանք, ովքեր անում են այս հնարքները, երբեմն դա անում են հաճույքի համար, մինչդեռ երբեմն նրանք (համենայն դեպս պնդում են) դա անում են՝ տեսնելու, թե որքան հեռու կարող է ձգվել արհեստական ​​ինտելեկտը և տրամադրել օգտակար միջոց՝ նախազգուշացնելու այս բողբոջների փխրունությունն ու թույլ կողմերը: AI հավելվածներ.

Ես որոշեցի չփորձել շրջանցել սովորական հսկողությունը այս կենտրոնացված հետազոտության մեջ: Տեքստի ելքը մաքուր է: Անշուշտ, եթե մեկը ցանկանար դա անել, անկասկած, դուք կարող եք ստանալ որոշ տարօրինակ և անճոռնի շարադրություններ:

Այս գեներացնող արհեստական ​​ինտելեկտի հավելվածներից շատերի կողմից արտադրված շարադրությունները նախատեսված են ելքը փոխանցելու համար, կարծես այն զուտ փաստացի և ճշգրիտ է: Երբ դուք կարդում եք արտադրված էսսեները, դրանք լիովին վստահ են հայտնվում: Սովորաբար որևէ ցուցում չկա, որ բովանդակությունը կարող է քարքարոտ լինել: Սա AI ստեղծողների ընտրությամբ է, այն է, որ նրանք կարող են վերանայել AI հավելվածները, որպեսզի դրանք ավելի թափանցիկ լինեն, եթե ցանկանում են, որ AI հավելվածն այդպես վարվի:

Երբեմն, արհեստական ​​ինտելեկտի գեներացնող հավելվածը կեղծություններ է հավաքում համացանցում անվստահելի տեղեկատվության վերապատրաստման տվյալների ֆոնին: Գեներատիվ արհեստական ​​ինտելեկտի մեջ «առողջ դատողություն» չկա՝ որոշելու, թե որն է ճիշտն ընդդեմ կեղծի: Ավելին, արհեստական ​​ինտելեկտի շատ քիչ հավելվածներ ունեն որևէ խաչաձև ստուգում և չեն ցուցադրում որևէ հավանականություն, որը կապված է իրենց փոխանցածի հետ:

Ներքևի արդյունքն այն է, որ դուք ստանում եք պատասխան, որը կարծես թե մեծ վստահություն է հաղորդում և պետք է լիովին ճիշտ լինի: Այդպես չէ։ Նույնիսկ հավանականություն կա, որ AI-ի հաշվարկով պատրաստված նյութը, որը AI-ի լեզվով կոչվում է. AI հալյուցինացիաներ (հորինված տերմին, որը ես հաստատ չեմ սիրում), տե՛ս իմ քննարկումը հղումն այստեղ.

ChatGPT-ի ստեղծողները համատեղ ջանքեր են գործադրել՝ փորձելով նվազեցնել վատ նյութերի արդյունքները: Օրինակ, նրանք օգտագործեցին մի տարբերակ, որը հայտնի է որպես RLHF (Reinforcement Learning from Human Feedback), որի շնորհիվ, նախքան AI-ը հանրությանը հրապարակելը, նրանք վարձել էին մարդկանց, որպեսզի ուսումնասիրեն տարբեր արդյունքներ և ցույց տային AI-ին, թե արդյոք այդ արդյունքներում սխալ բաներ կան, ինչպիսիք են, օրինակ, կողմնակալության, անպարկեշտ խոսքերի ցուցադրումը և նման. Տրամադրելով այս կարծիքը՝ AI հավելվածը կարողացավ հաշվողականորեն և մաթեմատիկորեն հարմարեցնել նման բովանդակության արտանետումը նվազեցնելու համար: Նկատի ունեցեք, որ սա երաշխավորված երկաթյա մեթոդ չէ, և դեռ կան եղանակներ, որոնցով նման բովանդակությունը կարող է արտանետվել AI հավելվածի կողմից:

Դուք կարող եք հետաքրքրել, որ ChatGPT-ն հիմնված է նախորդի AI հավելվածի տարբերակի վրա, որը հայտնի է որպես GPT-3: ChatGPT-ը համարվում է մի փոքր հաջորդ քայլ, որը կոչվում է GPT-3.5: Ակնկալվում է, որ GPT-4-ը, ամենայն հավանականությամբ, կթողարկվի 2023 թվականի գարնանը: Ենթադրաբար, GPT-4-ը տպավորիչ առաջընթաց կլինի՝ թվացյալ ավելի սահուն էսսեներ ստեղծելու, ավելի խորանալու և ակնածանք լինելու առումով: - ոգեշնչող հիասքանչ կոմպոզիցիաների վերաբերյալ, որոնք այն կարող է արտադրել:

Դուք կարող եք ակնկալել տեսնել արտահայտված զարմանքի նոր փուլ, երբ գարունը գա, և թողարկվի գեներատիվ AI-ի վերջին տարբերակը:

Ես ներկայացնում եմ սա, քանի որ կա ևս մեկ անկյուն, որը պետք է հիշել, որը բաղկացած է պոտենցիալ աքիլեսյան գարշապարից այս ավելի լավ և ավելի մեծ գեներացնող AI հավելվածների համար: Եթե ​​որևէ AI վաճառող հասանելի դարձնի արհեստական ​​ինտելեկտի գեներացնող հավելված, որը փրփրուն կերպով ցայտում է աղտոտվածությունը, դա կարող է խաթարել այդ AI ստեղծողների հույսերը: Հասարակական տարածումը կարող է առաջացնել բոլոր գեներացնող AI-ի լուրջ սև աչքը: Մարդիկ, անկասկած, շատ կվրդովվեն անբարոյական արդյունքներից, որոնք արդեն բազմիցս են եղել և հանգեցրել են AI-ի նկատմամբ հասարակական բուռն դատապարտման արձագանքի:

Մեկ վերջնական նախազգուշացում առայժմ.

Ինչ էլ որ տեսնեք կամ կարդաք գեներացնող AI պատասխանում, որ Թվում է, պետք է փոխանցվի որպես զուտ փաստացի (ամսաթվեր, վայրեր, մարդիկ և այլն), համոզվեք, որ թերահավատ եք և պատրաստ եղեք կրկնակի ստուգել այն, ինչ տեսնում եք:

Այո, ամսաթվերը կարելի է հորինել, վայրեր հորինել, և տարրեր, որոնք մենք սովորաբար ակնկալում ենք, որ անարգանքից վեր են. բոլորը ենթակա է կասկածների. Մի հավատացեք ձեր կարդացածին և թերահավատորեն նայեք, երբ ուսումնասիրում եք արհեստական ​​ինտելեկտի գեներացնող շարադրություններ կամ արդյունքներ: Եթե ​​արհեստական ​​ինտելեկտի գեներացնող հավելվածը ձեզ ասի, որ Աբրահամ Լինքոլնը թռչել է ամբողջ երկրում իր անձնական ինքնաթիռով, դուք, անկասկած, կիմանաք, որ դա արատ է: Ցավոք, որոշ մարդիկ կարող են չհասկանալ, որ իր ժամանակներում ինքնաթիռներ չեն եղել, կամ կարող են իմանալ, բայց չեն նկատել, որ շարադրությունը ներկայացնում է այս համարձակ և սարսափելի կեղծ պնդումը:

Առողջ թերահավատության մեծ չափաբաժինը և անհավատության համառ մտածելակերպը կլինեն ձեր լավագույն առավելությունը գեներացնող AI-ն օգտագործելիս:

Մենք պատրաստ ենք անցնել այս պարզաբանման հաջորդ փուլ:

ChatGPT-ի ելքային սխալները գրանցելու այդ ջանքերը

«Դե, դու անախորժություն ունես, իմ ընկեր, հենց այստեղ, ես ասում եմ, դժվարություններ հենց այստեղ՝ Ռիվեր Սիթիում», - այսպես է հռչակում Բրոդվեյի դասական մյուզիքլի հայտնի տողը: Երաժշտության մարդը.

Նույն գիծը կարող է վերաբերել այսօրվա Generative AI-ին:

Մարդիկ սկսեցին հասկանալ, որ արհեստական ​​ինտելեկտի գեներացնող հավելվածը կարող է կեղծ կեղծիքներ արտադրել և իսկապես զարմացած թվացին այդ անհանգստացնող արդյունքներից: Թերևս ոմանք ենթադրում էին, որ AI-ն ի վիճակի չէ սխալվել: Մյուսները կարող էին ակնկալել, որ AI մշակողները կապահովեն, որ նման արդյունքներ չեն ստեղծվի:

Ամեն դեպքում, արհեստական ​​ինտելեկտի ինսայդերները անմիջապես հասկացան, որ այս տեսակի անսարք արդյունքը հանդիսանում է այսօրվա գեներացնող AI-ի մեծ մասի մասնաբաժինը: Շատ դժվար է կանխել այդ տեսակի տեքստային սխալները: Հիշեք, որ արհեստական ​​ինտելեկտը չունի ողջամտության նմանություն և ինքնին տրամաբանություն չի օգտագործում ստեղծած էսսեները դուրս բերելիս: Ամբողջ հավաքածուն և կաբուդլը վերաբերում է բառերի այլ բառերի հետ հաշվողական վիճակագրական և հավանականական օրինակին համապատասխանեցնելուն:

Սկզբում AI ինսայդերները որոշեցին տեղադրել ChatGPT-ի հայտնաբերված տարօրինակ արդյունքները սոցիալական մեդիայի կայքերում: Տեսեք այս մեկը, ինչ-որ մեկը կհայտարարեր. Դա վատ է, մեկ ուրիշը կպատասխաներ, իսկ հետո այլ օրինակ կառաջարկեր, որն ավելի վատ էր թվում: Սա շարունակվեց և շարունակվեց:

Կեղծիքի և սխալների այս օրինակները դուրս էին բերված շարադրություններում: Մեկ առ մեկ. Ավելին, քանի որ սա սովորաբար տեղադրվում էր սոցիալական ցանցերում, բոլորին միանգամից տեսնելու առանձնապես հեշտ միջոց չկար: Հաճախ նույն կամ նմանատիպ օրինակը տեղադրվում էր մեկի կողմից, ով չէր գիտակցում, որ ուրիշներն արդեն գտել են կոնկրետ օրինակը:

Այս բողբոջող խայտաբղետի մեջ մտան նրանք, ովքեր բարձրաձայնեցին օգտակար առաջարկ: Միգուցե մենք պետք է ստեղծենք շտեմարան կամ տվյալների բազա, գուցե նույնիսկ սովորական սովորական աղյուսակ, որը պարունակում է ChatGPT տարօրինակ և սխալ ելքեր, որոնք բացվում են: Ամեն անգամ, երբ ինչ-որ մեկը գտնում է մի գեղեցկուհի, գնացեք և մուտք գործեք այն ցուցակում: Ոմանք սա վերածել են գրեթե խաղի, որտեղ նրանք միտումնավոր փորձում են ChatGPT-ին ստիպել, որ արտառոց արդյունքները հազի: Մյուսները պարզապես բախվում են սխալ արդյունքների ChatGPT-ի օգտագործման ընթացքում այլ որոշված ​​մտադրությունների համար:

Բավականին պարզ է հնչում:

Թվում է, թե մեզ բոլորիս օգնելու հարմար միջոց է:

Եկեք հակիրճ հաշվառենք, թե ինչու է ChatGPT-ի դիտարկված ելքային սխալների կամ կեղծիքների վերաբերյալ այս տեսակի ցուցակների առկայությունը մեծ իմաստ ունի կազմելու համար.

• 1) Բացահայտում է ChatGPT-ի վերաբերյալ կենսական խնդիրներ և մտահոգություններ, որոնց մասին պետք է տեղյակ լինի լայն հանրությունը
• 2) Օգնում է հակակշռել ChatGPT-ի մասին չափազանց մեծ աղմուկը և ուռճացված սպասումները
• 3) Կարող է ստիպել AI ստեղծողներին կատարելագործումներ կատարել ոչ միայն ChatGPT-ի, այլ նաև այլ գեներացնող AI հավելվածների համար
• 4) Ծառայել որպես պատմական գրառում, որը հետագայում կարող է օգտագործվել՝ հետադարձ հայացք նետելու համար գեներատիվ AI-ի առաջացմանը, ինչպես օրինակ ChatGPT-ի միջոցով:
• 5) Եղեք հարմար կոլեկտիվ ռեսուրս բոլորի համար, ովքեր կարիք ունեն պարզելու, թե ինչ ենք մենք հայտնաբերել ChatGPT-ի սխալ ելքերի վերաբերյալ
• 6) Օգտակար է բոլոր առարկաների հետազոտողների համար, որոնք ուսումնասիրում են ChatGPT-ի ազդեցությունները
• 7) Կարող է օգտագործվել որպես չափանիշ այն բանի, թե ինչ չի կարելի անել և ինչպես չափել, երբ գեներատիվ AI-ն չի անում այնպես, ինչպես պետք է:
• 8) Հպեք փեթակի մտքին՝ հավաքելու ամբոխի խելամտությունը այն սխալների մասին, որոնք առաջացնում է ChatGPT-ն, որոնց համար անհատական ​​ջանքերը դժվար թե սպառիչ կերպով հավասարապես կազմվեն:
• 9) Կարող է կարևոր տեղեկատվություն տրամադրել AI էթիկայի և AI օրենքի համար
• Etc.

Դա, ըստ երևույթին, տպավորիչ հիմք է այս պահոցները ստեղծելու համար:

Ինչո՞ւ որևէ մեկը չհամաձայնվի այս բոլորովին գովելի և թվացյալ հերոսական արարքի հետ:

Եկեք նայենք, թե ինչ են ասել մյուսները այս մասին՝ դա անելով պատճառների ցանկով, թե ինչու դա կարող է լինել կատվի մյաոը.

• 1) Այս, թերևս, հայտնաբերված ելքային սխալները անհետևանք են իրերի մեծ սխեմայի մեջ և դրանց արժեքից ավելի մեծ կշիռ են ստանում
• 2) Հավանական է, որ արհեստական ​​ինտելեկտի ստեղծողն արդեն անում է սեփական գրանցումը և թարմացնում ChatGPT-ն այնպես, որ այս տարօրինակ դեպքերը շուտով պարզապես կմնան փոշու մեջ և այլևս չեն առաջանա:
• 3) Նմանապես, հաջորդ տարբերակը, հավանաբար, ամեն դեպքում ավելի լավն է լինելու և կարող է այլևս չցուցաբերել այս շուտով հնացած դեպքերը
• 4) Դուք չեք կարող որևէ համընդհանուր եզրակացություն անել կամ պատկերացումներ ստանալ հարվածների կամ բաց թողնված դեպքերի պատահական հավաքածուից
• 5) Ոմանք կարող են օգտագործել տարբեր հավաքածուներ՝ կտրուկ հայտարարելու, որ գեներատիվ AI-ն վատն է, և որ մենք պետք է ամփոփենք այս տեսակի AI-ի հետապնդումը։
• 6) Արագությունը, որով գեներատիվ AI-ն և ChatGPT-ն առաջ են շարժվում, այնքան արագ է, որ այս դեպքերն արագորեն կփակվեն և այլևս տեղին չեն լինի:
• 7) Այսպիսի բազմաթիվ հավաքական ցուցակների առկայության և ոչ մի օծյալ համաշխարհային աղբյուրի առկայության դեպքում հարցը տարանջատված է և, հավանաբար, պարունակում է կրկնություններ և անհիմն մասնատված:
• 8) Ապահովում է ինչ-որ օգտակար բան անելու կեղծ զգացում, մինչդեռ, հնարավոր է, ժամանակն ու ուշադրությունը կարող են օգտագործվել այլ ավելի լավ օգտագործման համար
• 9) Արհեստական ​​ինտելեկտի էթիկայի և AI օրենքի համար որևէ էական բան չի տրամադրում
• Etc.

Դուք, հավանաբար, նկատեցիք, որ ես փորձեցի պահել իրերը հավասարաչափ՝ նշելով ինը պատճառ՝ հօգուտ հավաքական ցուցակների և ինը պատճառ՝ անբարենպաստ: Կան լրացուցիչ պատճառներ, որոնք կարելի է նշել, բայց ես կարծում եմ, որ վերը նշված նշումը տալիս է իրերի էությունը:

Նրանց համար, ովքեր հավաքում են այս կոլեկտիվ ցուցակները, նրանք հավանաբար կասեին, որ եթե նրանք իրականում ցանկանում են դա անել, ապա դա ազատ աշխարհ է, և նրանք կարող են անել այնպես, ինչպես ցանկանում են: Ոչ մի բան այն չէ: Նրանք, ովքեր դժգոհում են ջանքերից, հիմնականում մանր են և պետք է պարզապես անտեսեն հավաքածուները: Քո գործով զբաղվիր.

Ըստ էության, ոչ մի վնաս, ոչ մի խախտում:

Այն ճամբարը, որը, կարծես, հավանություն չի տալիս կոլեկտիվ ցուցակներին, ընդհանուր առմամբ կընդունի, որ մյուսները կարող են կազմել այդ ցուցակները, եթե ցանկանում են դա անել, բայց դա չի շարժում ասեղը: Ցուցակներն առանձնապես օգտակար չեն լինելու: Ավելի վատ, ցուցակները կարող են խեղաթյուրվել կամ սխալ օգտագործվել: Հավանաբար, ամենալավն այն է, որ դա մի օր անվանեք և դադարեք ցուցակներ կազմել:

Ըստ էության, դա գեղեցիկ փորձ է, թեև անիմաստ վարժություն:

Որտե՞ղ եք դուք ապրում այս սրտառուչ բանավեճում:

Ես թույլ կտամ, որ մտածես այդ մասին:

Գտնված սխալների և ChatGPT-ի այլ սխալ արդյունքների օրինակներ

Ես կարծում էի, որ դուք կարող եք մեծ հետաքրքրություն առաջացնել հայտնաբերված որոշ սխալներ կամ կեղծիքներ, որոնք հայտնվել են այս հավաքածուների ցուցակներում:

Ես չեմ ուզում, որ դուք մտածեք, որ այստեղ ցուցադրված մի քանի օրինակները հավաքածուների ամբողջությունն են: Դա չէ. Ես պարզապես ընտրում եմ մի բուռ, որը հաճախ հայտնվում է: Կարծում եմ, որ դուք գոնե կկարողանաք ընդհանուր առմամբ ըմբռնել թվարկվածի տոնայնությունն ու բնույթը:

Ահա թե ինչ եմ ընտրում լուսաբանելու համար.

• Նամակի դիրքի նույնականացում մեկ բառով
• Հարց ամենաարագ կենդանու մասին
• Պարզելով բառերի հաջորդականության դիրքը
• Թենիսի գնդակների տեղադրում խողովակի մեջ
• Որոշելով Pi
• Պատասխանելով դասական անհանգստացնող հանելուկին
• Բարձրացնող փետուրներ

Ես ակնկալում եմ, որ հավաքածուների վերակացուներից ոմանք կտխրեն, որ ես ավելի շատ օրինակներ չեմ լուսաբանում ձեզ համար: Տարածքի սահմանափակության պատճառով կան միայն այնքան, որ ես կարող եմ ծածկել: Եթե ​​ցանկանում եք դիտել հավաքածուների ցուցակները, որոնք բացահայտ տեղադրված են համացանցում, ապա պարզ առցանց որոնումը կարող է բերել դրանցից շատերին: Ցանկերից մի քանիսը գաղտնի են պահվում կամ կողպված են այնպես, որ դուք կարող եք տեսնել ցուցակը, բայց չեք կարող փոփոխություններ կատարել ցուցակում:

Այդ ֆոնի վրա մենք պատրաստ ենք անցնել որոշ օրինակների: Ես ձեզ ցույց կտամ իմ մուտքագրած հուշումը: Հաջորդը, ես ցույց եմ տալիս ChatGPT-ի կողմից արտադրված տեքստային պատասխանը: Որոշ դեպքերում ես մի քանի անգամ կրկնել եմ կոնկրետ թեմայի շուրջ, այնպես որ ես համապատասխանաբար ցույց կտամ հուշումների և արդյունքների շարքը: Դա անելուց հետո ես կտրամադրեմ համառոտ վերլուծություն այն մասին, թե ինչ կարող եք նկատել օրինակի վերաբերյալ:

Առաջին օրինակը կհանգեցնի ChatGPT-ին խնդրելու համար գտնել տառ տրամադրված բառի մեջ:

Նամակի դիրքի նույնականացում մեկ բառով

• Իմ մուտքագրված տեքստը. «Որտե՞ղ է V տառը միջավայրում»
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «V» տառը «միջավայր» բառում չի հայտնվում: «Շրջակա միջավայր» բառը կազմված է e, n, v, i, r, o, n, m, e, n, t տառերից։
• Իմ մուտքագրված տեքստը. «Որտե՞ղ է v տառը միջավայրում»
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Վ» տառը «միջավայր» բառի 4-րդ տառն է։

Ստեղծված տեքստի վերլուծություն

Նկատի ունեցեք, որ ես սկսեցի ChatGPT-ին խնդրելով բացահայտել «V» տառի դիրքը «միջավայր» բառում. սա չափազանց պարզ խնդիր պետք է լինի, և մենք ակնկալում ենք, որ այն կատարվի անթերի: Ոչ մի հրթիռային գիտություն ներգրավված չէ:

ChatGPT-ի կողմից առաջացած նախնական պատասխանը մի փոքր անհանգստացնող է, քանի որ մենք տեղեկացված ենք, որ «V» տառը գոյություն չունի «միջավայր» բառում: Ես և դու գիտենք, որ նման նամակ կա։ Մեկը ենթադրում է, որ միգուցե մեծատառ տառ օգտագործելու պատճառով AI հավելվածը ինչ-որ կերպ դուրս է մղվել: Հավանաբար, եթե ես օգտագործեմ փոքրատառ տառեր, AI հավելվածն ավելի լավ կաշխատի:

Ոչ, իրականում:

Երբ ես հարցրի, թե բառի մեջ «v» կա, AI հավելվածը պատասխանեց՝ նշելով, որ դա չորրորդ տառն է, որը դուք և ես գիտենք, որ սխալ է, և փոխարենը դա երրորդ տառն է:

Շատ մարդիկ անպայման շփոթված կլինեն այս արդյունքից: Ինչպե՞ս կարող է արհեստական ​​ինտելեկտի հավելվածը, որը ստեղծում է ամբողջական էսսեներ Աբրահամ Լինքոլնի մասին, որոնք լիովին սահուն և օրիգինալ են, ինչ-որ կերպ չկարողանալ պարզել, թե որտեղ է տվյալ տառը գտնվում տվյալ բառում: Դա ապշեցուցիչ է, և բերանը բացառապես տարօրինակ է:

Տեսանկյուններից մեկն այն է, որ սա բացարձակապես անհետևանք է, և աշխարհը, ինչպես մենք գիտենք, այն չի ցնցվում առանցքում՝ որոշակի տառի տեղը պարզելու անմիտ բացակայության պատճառով: Թող գնա.

Մեկ այլ հեռանկար այն է, որ դա կարող է հուշել այլ թաքնված խնդիրների, որոնց մասին մենք դեռ չգիտենք: Թերևս նման արդյունք է դեղձանիկը թռչունների վանդակում: Ավելի լավ է մենք մատնանշենք փոքր բաները, այլապես մենք կարող ենք հայտնվել իսկապես մեծ բաների սխալ ծայրում:

Շարունակելով՝ ես հաջորդ հարց եմ տալիս կենդանիների մասին:

Հարց ամենաարագ կենդանու մասին

• Իմ մուտքագրված տեքստը. «Ո՞րն է ամենաարագ կենդանին, որն ունի մորթի և թեւեր»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Բազեն աշխարհի ամենաարագ կենդանին է համարվում։ Այն կարող է զարգացնել ավելի քան 389 կմ/ժ արագություն, երբ սուզվում է իր զոհին բռնելու համար։ Այն ունի փետուրներ, բայց ոչ մորթի: Դա թռչուն է, ոչ թե կենդանի, որ ունի մորթի և թեւեր»։

Ստեղծված տեքստի վերլուծություն

Ես հարցրի, թե որն է ամենաարագ կենդանին, որն ունի մորթի և թեւեր: Կարծում եմ, որ խելամիտ է եզրակացնել, որ ես ուզում էի ձեռք բերել մի կենդանի անունով, որն ունի երկու մորթ և թեւեր. Ենթադրում եմ, որ դուք կմեկնաբանեք իմ հարցումն այդ ձևով: Մարդկանց մեծամասնությունը կցանկանար:

ChatGPT-ի պատասխանը մի փոքր տարօրինակ է:

Մեզ ասում են, որ բազեն աշխարհի ամենաարագ կենդանին է։ Ըստ առցանց Բրիտանական հանրագիտարան, Չեթան կարծես աշխարհի ամենաարագ կենդանին է: Այսպես ասվեց, ChatGPT-ի պատասխանը ցույց է տալիս, որ բազեն կենդանի չէ, չնայած ես հարցրել էի, թե որն է ամենաարագ կենդանին: ChatGPT-ի պատասխանը նաև ասում է ինձ, որ բազեն մորթ չունի, չնայած կարծում եմ, որ ես խնդրել էի մի բան, որն ունի և՛ մորթի, և՛ թեւեր:

Ընդհանուր առմամբ, թվում է, որ ChatGPT-ն «սխալ է մեկնաբանել» իմ խնդրանքը և կենտրոնացել է միայն թևի կողմերի վրա: Բայց դա այնքան էլ ճիշտ չէ, քանի որ պատասխանը ներառում էր նաև մեկնաբանություն մորթի և թռչունների ընդդեմ կենդանիների մասին: Կլոր ու կլոր այս մեկը գնում է:

Ես հասկանում եմ, որ դուք կարող եք վիճել, որ սա խայտառակ օրինակ է:

Միգուցե այդպես է, թեև գուցե այն նաև ցույց է տալիս, որ այն, ինչ դուք ասում եք հուշում, կարող է ստանալ անբարենպաստ արդյունք, և դուք ավելի լավ է զգույշ լինեք վերանայել այն, ինչ դուրս է գալիս արդյունքից: Գիտակցեք, որ սա անսովոր կարճ էսսե պատասխան էր, որը պետք է հեշտությամբ ստուգվի, քանի որ այն շատ կարճ է երկարությամբ: Եթե ​​դուք ստացել եք հատկապես երկարատև և բարձր տեխնիկական շարադրություն, կարող եք խաբվել կամ ընդհանրապես բաց թողնել բացասական ցուցում, որը խորապես ներառված է թողարկված պատասխանում:

Եկեք հաջորդաբար նայենք նախադասության մեջ բառ գտնելուն:

Պարզելով բառերի հաջորդականության դիրքը

• Իմ մուտքագրված տեքստը. «Ո՞րն է երրորդ բառը «Աղվեսը ցատկեց ցանկապատի վրայով» նախադասության մեջ։
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Աղվեսը ցատկեց ցանկապատի վրայով» նախադասության երրորդ բառը։ «աղվես» է
• Իմ մուտքագրված տեքստը. «Քանի՞ բառ կա տրված նախադասության մեջ»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Աղվեսը ցատկեց ցանկապատի վրայով» նախադասության մեջ վեց բառ կա։
• Իմ մուտքագրված տեքստը. «Ո՞ր բառն է երրորդն այդ նախադասության մեջ»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Աղվեսը ցատկեց ցանկապատի վրայով» նախադասության մեջ երրորդ բառը։ «ցատկել» է

Ստեղծված տեքստի վերլուծություն

Այս օրինակը գրեթե նույնքան գայթակղիչ է, որքան նախորդ օրինակը՝ տվյալ բառում «v» տառը գտնելու մասին:

Ես մի պարզ նախադասություն ներկայացրի և հարցրի, թե որն է երրորդ բառը: ChatGPT-ը նշել է, որ դա «աղվես» բառն է, որը նախադասության միայն երկրորդ բառն է: Սխալ պատասխանը. Այնուհետև ես հարցրի, թե քանի բառ կա նախադասության մեջ՝ ցանկանալով պարզել, թե արդյոք ChatGPT-ը սխալ է հաշվել, թե քանի բառ կա: Մեզ ասում են, որ վեց բառ կա, ճիշտ է։

Ի վերջո, երրորդ բառի վերաբերյալ մենք ստացանք ճիշտ պատասխանը, երբ ես նորից տվեցի իմ սկզբնական հարցը, թեև մի փոքր վերափոխված:

Ես բերում եմ այս օրինակը՝ ցույց տալու համար, որ երբեմն գեներատիվ AI-ի միջոցով դուք կարող եք սխալ պատասխան ստանալ, որն ի վերջո կարող է վերածվել ճիշտ պատասխանի՝ անցնելով AI հավելվածը մի շարք հուշումների միջոցով: AI որոշ ինսայդերներ դա անվանում են մի տեսակ բարձրաձայն մտածեք արձանագրություն կամ մտքի գնացք մոտեցում, որտեղ դուք կարող եք նույն բանն անել մարդու հետ:

Արհեստական ​​ինտելեկտի դեպքում գիտակցեք, որ այն «մտածում» չէ նույն ձևով, ինչ մարդկային միտքը: Ավելի հարմար ձևակերպումը կլինի ասել, որ դուք կարող եք մուտքագրել ձեր հուշումները a քայլ առ քայլ հիմք կամ անել ա շղթայական կապակցված հուշումների շարք.

Համենայն դեպս, հետաքրքիր է, որ երբեմն արդյունք է տալիս քայլել գեներացնող AI հավելվածով, քանի դեռ չեք ստացել պատշաճ պատասխան: Սա նկատի ունեցեք:

Հաջորդիվ մենք նայում ենք մի փոքր պարզ թվաբանական տրամաբանությանը:

Թենիսի գնդակների տեղադրում խողովակի մեջ

• Իմ մուտքագրված տեքստը. «Կարո՞ղ եք թենիսի երեք կանաչ գնդակ և թենիսի երկու դեղին գնդակ դնել մի խողովակի մեջ, որը կարող է պարունակել թենիսի չորս գնդակ»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Ոչ, հնարավոր չէ թենիսի երեք կանաչ և թենիսի երկու դեղին գնդակներ դնել խողովակի մեջ, որը կարող է պարունակել միայն չորս թենիսի գնդակ: Թենիսի գնդակների ընդհանուր թիվը հինգն է, ինչը խողովակի տարողությունից մեծ է»։
• Իմ մուտքագրված տեքստը. «Կարո՞ղ եք յոթ կապույտ և երկու կարմիր գնդակներ դնել մի խողովակի մեջ, որը ութ գնդակ է պահում»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Այո, կարելի է յոթ կապույտ և երկու կարմիր գնդակ դնել մի խողովակի մեջ, որը ութ գնդակ է պահում: Գնդիկների ընդհանուր թիվը ինը է, որը փոքր է կամ հավասար է խողովակի հզորությանը»:

Ստեղծված տեքստի վերլուծություն

Ես սկսեցի թվաբանության վրա հիմնված տրամաբանական խնդիր ստեղծելով ChatGPT-ի համար՝ լուծելու համար: Խողովակը կարող է պարունակել չորս թենիսի գնդակ: Ես ունեմ երեք կանաչ և երկու դեղին: Արդյո՞ք նրանք բոլորը կտեղավորվեն խողովակի մեջ: Դուք և ես գիտենք, որ նրանք չեն անի: Մենք կարող ենք մեր գլխում հաշվարկել, որ կան ընդհանուր առմամբ հինգ թենիսի գնդակներ, և, հետևաբար, դրանք չեն տեղավորվի մի խողովակի մեջ, որը թույլ է տալիս ընդամենը չորսը:

Ես հասկանում եմ, որ դուք կարող եք պայքարել խնդրի դեմ և պնդել, որ կարող եք ցած նետել թենիսի գնդակները կամ այլ հնարքներ անել: Եկեք այստեղ մի փոքր հանգստանանք և խնդրին առերեսվենք այնպես, ինչպես կա:

ChatGPT-ն ստացել է ճիշտ պատասխանը:

Հաջորդիվ ես նույն տեսակի հարց տվեցի և գույները փոխեցի կապույտ և կարմիր: Ես նաև փոխել եմ, թե յուրաքանչյուրից քանիսն է, և փոխել եմ, թե քանիսը կարող են տեղավորվել խողովակի մեջ:

ChatGPT-ը պետք է վերադառնա ուղղիչ մաթեմատիկայի, քանի որ այն ասում է, որ կան ինը գնդակներ, և որ դա փոքր է կամ հավասար է ութը պահող խողովակի հզորությանը: Աչքերդ գլորում է:

Արդյո՞ք մենք պետք է թոթվենք մեր ուսերը և դա հասցնենք արևի բծերի բռնկումներին կամ այլ արտաքին գործոններին:

Չեմ կարծում։ AI հավելվածը ճիշտ ստացավ առաջին հարցը: Ենթադրաբար, այն նույնպես պետք է ճիշտ ստանար նմանատիպ հարց: Դա չի եղել:

Այս օրինակի վրա իմ շեշտադրումն այն է, որ շատ մարդիկ օգտագործում են գեներատիվ AI, և երբ նրանք ստանում են ճիշտ պատասխան կամ մի շարք ճիշտ պատասխաններ, նրանք հուզվում են հավատալով, որ բոլոր հետագա պատասխանները միշտ ճիշտ կլինեն: Դուք սխալ կլինեք այդ լկտի ենթադրության մեջ։ Մի արեք այդ ենթադրությունը։ Միշտ զգույշ եղեք:

Խոսելով մաթեմատիկայի մասին, եկեք տեսնենք, թե ինչ է ասում ChatGPT-ն pi-ի բնույթի մասին:

Որոշելով Pi

• Մուտքագրված իմ տեքստը. «Նշեք, թե որոնք են pi-ի վերջին հինգ թվանշանները»
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Ես լեզվի մոդել եմ և իմ գիտելիքների սահմանաչափը 2021 թվականն է: Pi-ի արժեքը իռացիոնալ թիվ է, և դրա տասնորդական ներկայացումը շարունակվում է ընդմիշտ՝ առանց կրկնվելու: Հնարավոր չէ ապահովել pi-ի վերջին հինգ թվանշանները»:

Ստեղծված տեքստի վերլուծություն

Որոշ մարդիկ պնդում են, որ իրենք ստացել են ChatGPT՝ pi-ի վերջին հինգ թվանշանները նշելու համար, ինչը, իհարկե, անհասկանալի է, քանի որ pi-ն ենթադրաբար անվերջ է: Այսպիսով, ես փորձեցի տեսնել, թե ինչ է ասել ChatGPT-ն: Ինչպես տեսնում եք, ChatGPT-ի կողմից տրված ճիշտ պատասխանն այն է, որ հնարավոր չէ ապահովել pi-ի վերջին հինգ թվանշանները:

Այնուամենայնիվ, տարօրինակն այն է, որ ChatGPT-ն այլ բան է տրամադրել, որի մասին իրականում չի հարցվել: Տրված պատասխանը նաև ասում է, որ գիտելիքի կրճատումը եղել է 2021 թվականը (որը ես ավելի վաղ նշեցի այստեղ ChatGPT-ի մասին իմ ակնարկում): Սա, չնայած, կարծես թե անտեղի պատասխան է, եթե, հավանաբար, AI հավելվածը չի ակնկալում, որ գուցե 2022 թվականին բեկում է եղել, և մաթեմատիկոսները հայտարարել են, որ pi-ն ավարտվում է: Վայ, դա կլինի գլխավոր նորություն:

Ես ևս երկու օրինակ ունեմ ցուցադրելու և հետո կավարտենք այս քննարկումը:

Եկեք օգտագործենք դասական և մտահոգիչ հանելուկ.

Պատասխանելով դասական անհանգստացնող հանելուկին

• Իմ մուտքագրված տեքստը«Հայր ու որդի ավտովթարի են ենթարկվել, որտեղ հայրը մահացել է. Շտապօգնությունը որդուն տեղափոխել է հիվանդանոց. Նրան անհապաղ վիրահատություն է անհրաժեշտ։ Վիրահատարանում բժիշկը մտավ, նայեց փոքրիկին ու ասաց, որ չեմ կարող վիրահատել, նա իմ տղան է։ Ո՞վ է բժիշկը»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Տրված սցենարում նշված չէ, թե ով է բժիշկը։ Սցենարում ասվում է, որ բժիշկն ասել է. «Ես չեմ կարող նրան վիրահատել, նա իմ տղան է», ինչը ցույց է տալիս, որ բժիշկը կարող է որդու հայրը լինել, բայց դա հստակ չէ։ Բժշկի ինքնությունը պարզելու համար լրացուցիչ տեղեկություններ են անհրաժեշտ»։

Ստեղծված տեքստի վերլուծություն

Գրազ կգամ, որ դուք կարող եք նախկինում տեսած լինել այս հանելուկը: Այն դարձել է համեմատաբար հաճախ մեջբերված։

Պատճառն այն է, որ վիրաբույժը կարող էր լինել տղայի մայրը: Հասարակությունը հակված է ենթադրելու, որ վիրաբույժը պետք է լինի տղամարդ և, հետևաբար, պետք է լինի տղայի հայրը: Հայրը, սակայն, մահացել է ավտովթարից։ Մենք բացառում ենք, որ հայրը վիրաբույժ է: Մենք, իհարկե, պետք է որոշենք, որ վիրաբույժը կարող է լինել կին և, հետևաբար, որդու մայրը:

Ես ուզում էի ձեզ ցույց տալ, որ ChatGPT-ն կարող է արձակել պատասխաններ, որոնք պարունակում են հնարավոր կողմնակալություն: Ոչ այն պատճառով, որ արհեստական ​​ինտելեկտը զգայուն է, ինչը, անկասկած, այդպես չէ, այլ այն պատճառով, որ այն ունի բառերի և բառերի օգտագործման օրինաչափություններ համացանցում: Տարբեր կողմնակալություններ և խտրական ձևակերպումներ կարող են հեշտությամբ խորանալ հաշվողական օրինաչափությունների համապատասխանության մեջ:

Պահպանեք դա ձեր մտքում, երբ օգտագործում եք այս գեներացնող AI հավելվածները:

Վերջապես, արագ նայեք փետուրները բարձրացնելուն:

Բարձրացնող փետուրներ

• Մուտքագրված իմ տեքստը. «Եթե մեկ մարդուն անհրաժեշտ է մեկ փետուր բարձրացնելու համար, քանի՞ մարդ կպահանջվի յոթ տրիլիոն փետուր բարձրացնելու համար»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Եթե մեկ մարդուն անհրաժեշտ է մեկ փետուր բարձրացնելու համար, ապա մեկ մարդուն կպահանջվի յոթ տրիլիոն փետուր բարձրացնելու համար: Առարկան բարձրացնելու համար պահանջվող տղամարդկանց թիվը կախված է ոչ թե փետուրների քանակից, այլ փետուրների քաշից ու չափից, յուրաքանչյուր տղամարդու ուժից ու կարողությունից: Յոթ տրիլիոն փետուր բարձրացնելու համար կպահանջվեն մեծ սարքավորումներ և տրանսպորտային հնարավորություններ, ոչ միայն մարդկային ուժ»:
• Մուտքագրված իմ տեքստը. «Եթե մեկ կնոջից պահանջվում է մեկ փետուր բարձրացնելու համար, քանի՞ կին կպահանջվի յոթ տրիլիոն փետուր բարձրացնելու համար»:
• ChatGPT-ի կողմից ստեղծված տեքստային պատասխան. «Եթե մեկ կնոջ պահանջվում է մեկ փետուր բարձրացնելու համար, ապա մեկ կնոջը կպահանջվի յոթ տրիլիոն փետուր բարձրացնելու համար: Առարկան բարձրացնելու համար պահանջվող կանանց թիվը կախված է ոչ թե փետուրների քանակից, այլ փետուրների քաշից ու չափից, ինչպես նաև յուրաքանչյուր կնոջ ուժից ու կարողությունից: Յոթ տրիլիոն փետուր բարձրացնելու համար կպահանջվեն ոչ միայն մարդկային ուժ, այլ մեծ սարքավորումներ և տրանսպորտային հնարավորություններ: Կարևոր է նշել, որ ինչ-որ բան բարձրացնելու ունակությունը որոշվում է ոչ թե սեռով, այլ այնպիսի գործոնների համակցությամբ, ինչպիսիք են ֆիզիկական ուժը, մարզումները և տեխնիկան»:

Ստեղծված տեքստի վերլուծություն

Այս վերջին օրինակն իր ներսում մի քանի թաքնված առանձնահատկություններ ունի և պահանջում է որոշակի բացում:

Ես առաջին անգամ ChatGPT-ին ասացի, որ տղամարդը կարող է մեկ փետուր բարձրացնել: Դրան անմիջապես հաջորդեց մի հարց, թե քանի տղամարդ է անհրաժեշտ յոթ տրիլիոն փետուր բարձրացնելու համար: Այս հարցին պատասխանելիս տրամաբանական սխալ թույլ տալու հնարավորությունը կայանում է նրանում, որ դուք կարող եք ենթադրել, որ փետուրն իբր կշռադատված է, և, հետևաբար, դրանցից յոթ տրիլիոնը նույնպես անկշիռ կլինի:

Համաձայն առցանց որոնման, որը ես արել եմ, փետուրի սովորական գնահատված քաշը կազմում է մոտ 0.00125 ֆունտ: Եթե ​​այդ գնահատված քաշը բազմապատկեք յոթ տրիլիոնով, ապա կստացվի ութ միլիարդ ֆունտից ավելի քաշ: Ես չեմ հավատում, որ մեկ մարդ կարող է բարձրացնել այդ քաշը, նույնիսկ եթե նրանք մարզվեն ամբողջ կյանքի ընթացքում:

ChatGPT-ի պատասխանը ճիշտ է: Մեզ ասում են, որ փետուրների քաշը կարող է տարբեր լինել։ Մեզ ասում են, որ մեծ տեխնիկա և տրանսպորտ է պահանջվելու։ Շարադրության սկզբնական նախադասությունը որոշ չափով շրջադարձային է, քանի որ այն ասում է, որ եթե մեկ մարդուն անհրաժեշտ է մեկ փետուր բարձրացնելու համար, ապա մեկ մարդուն կպահանջվի նաև յոթ տրիլիոն բարձրացնելու համար: Մենք կարող ենք հեշտությամբ վիճարկել այս պնդումը։ Հայցը, կարծես, եզրակացություններ է անում, որոնք չեն աջակցվում և կարծես թե նսեմացնում են մնացած պատասխանը:

Ես որոշեցի նույն հարցը տալ, բայց հարցրեցի մի կնոջ մասին, ով անում է նույն բարձրացումը, քան տղամարդը:

Մենք սկզբում ստացանք նույն պատասխանը, ինչ տրված էր մարդամետ հարցին։ Հետաքրքիր է, որ կնոջ օրինակի վերաբերյալ պատասխանի վերջում մենք ստացանք այս հավելյալ պատմությունը. «Կարևոր է նշել, որ ինչ-որ բան բարձրացնելու ունակությունը որոշվում է ոչ թե սեռով, այլ գործոնների համակցությամբ, ինչպիսիք են ֆիզիկական ուժը, մարզումը, և տեխնիկան»։

Ինչու՞ այս նույն տողը չի ներառվել առաջին պատասխանում:

Գրեթե թվում է, որ արհեստական ​​ինտելեկտի հավելվածն ընդունել է «կին» բառը, այնուհետև տվել է սեռի վերաբերյալ այս հավելյալ դիտողությունը: Դուք կարող եք կամ հավատալ, որ սա օգտակար է, կամ կարող եք նշել, որ եթե դա արվելու է կնոջ վրա հիմնված հարցի դեպքում, ապա այն պետք է հայտնվի նաև տղամարդու վրա հիմնված տարբերակում (կարող է նաև լինել հաջորդականության ասպեկտ կամ ներգրավված են նաև այլ գործոններ):

Եզրափակում

Հուսով եմ, որ դուք գտել եք այդ օրինակները տեղեկատվական՝ որպես ակնարկ որոշ պոտենցիալ սխալների կամ կեղծիքների, որոնք կարող են առաջանալ այս տեսակի AI հավելվածների կողմից: Նկատի ունեցեք, որ ChatGPT-ը միակ նման գեներացնող AI հավելվածը չէ, և ոչ էլ միակն է, որն ունի այս տեսակի անսարքություններ:

Դասը, որը ես հորդորում եմ ձեզ քաղել այս քննարկումից այն է, որ դուք պետք է զգույշ և զգույշ լինեք գեներատիվ վրա հիմնված AI հավելված օգտագործելիս: Կրկնակի ստուգեք ելքը: Անհրաժեշտության դեպքում եռակի ստուգում:

Վերադառնալով այս տեսակի սխալ կամ անբարենպաստ արդյունքների հավաքագրման սկզբնական թեմային, հիմա, երբ տեսել եք մի քանի դեպքեր, ի՞նչ կասեք նրանց մասին, ովքեր փորձում են ցուցակագրել դրանք:

Ընտրեք ձեր ճամբարը.

• Լավություն: Սա գովելի խնդիր է և արժանի է խորը թփթփոցի
• ԱնբարեխիղճությունԴա պարզապես թեթև ինտրիգային է, բայց, հավանաբար, ոչ մի բան, որի վրա արժե ժամանակ ծախսել

Ո՞ր ճամբարի օգտին եք քվեարկում

Ձեզանից նրանց համար, ովքեր կողմ են այս ցուցակներին, կարող եք մտածել ցուցակներում ավելացնել ձեր սեփական բացահայտումները, եթե պատահաբար մուտք ունեք ChatGPT-ին և կարողանաք բացահայտել այնպիսի դեպքեր, որոնք արժանի են ներառման: Այնուհետև, հավանաբար, կարող եք գտնել մի հավաքածու, որը կվայելի ձեր ոսկե հատվածի ներդրումը: Համարձակվում եմ ասել, որ ցուցակը պահողները գրկաբաց կընդունեն ձեզ՝ ենթադրելով, որ դուք լուրջ եք և անկեղծ ձեր ջանքերում։ Հաջողություն և հպարտ եղեք ձեր ազդեցության համար գեներատիվ AI-ի ոլորտում:

Վերջնական խոսք առայժմ.

Նկատի առեք այս խելամիտ արձագանքները.

• Արիստոտելն ասել է. «Քննադատությունից խուսափելու միայն մեկ միջոց կա՝ ոչինչ չանել, ոչինչ չասել և լինել ոչինչ»:
• Չինացի հայտնի փիլիսոփա Լաո Ցզին այսպիսի ծանրակշիռ նկատառում է արել.

Ենթադրում եմ, որ մի օր խելամիտ արհեստական ​​ինտելեկտը կարող է օգտագործել այդ նույն առասպելական արտահայտությունները ի շահ իր, ինչը (մատները խաչած) ձեռնտու կլինի նաև մարդկությանը: