Այն, ինչ դուք պետք է իմանաք GPT-4-ի մասին, որը նոր թողարկվել է Generative AI ChatGPT-ի իրավահաջորդի, գումարած AI էթիկայի և AI օրենքի նկատառումների մասին

Ինչպիսի՞ն է ձեր սովորական արձագանքը գլխավոր բլոկբաստեր ֆիլմի շարունակության թողարկումից հետո:

Որոշ մարդիկ գնում են դիտելու շարունակությունը և հայտարարում, որ այն նույնքան լավն է, եթե ոչ նույնիսկ ավելի լավը, քան բնօրինակը: Մյուսները կարող են անսովոր մեծ ակնկալիքներ ունենալ և ավելի նոր ֆիլմը դիտելուց հետո այն հայտարարեն որպես ողջամտորեն լավ, թեև հիացական ոռնալու ոչինչ չկա: Կան ոմանք, որոնք, անկասկած, չափազանց հիասթափված կլինեն, անկախ նրանից, թե ինչ է ներառված վերջին ֆիլմը, և ամփոփ կերպով կհայտարարեն, որ առաջին ֆիլմը անմնացորդ գլուխներով ու պոչերով վեր էր շարունակությունից:

Արձագանքների և զգացմունքների նույն շրջանակն առաջին պլան է մղվել AI ստեղծող OpenAI-ի կողմից երեկ GPT-4-ի թողարկման ժամանակ, որը տեղի է ունեցել Pi օրը՝ 3.14թ. մարտի 14-ին կամ մարտի 2023-ին: ուտելու օրը, GPT-4-ի բացումը գրավեց մամուլի մեծ ուշադրություն և ծավալուն խոսակցություններ սոցիալական ցանցերում:

Ես այստեղ նկարագրելու եմ GPT-4-ի հիմնական առանձնահատկություններն ու հնարավորությունները, ինչպես նաև համեմատություններ կանեմ նրա նախորդ ChatGPT-ի հետ (իմ անալոգիայի սկզբնական «բլոկբաստերը»): Բացի այդ, AI-ի էթիկայի և AI օրենքի մի շարք նկատառումներ կան, որոնք զուգորդվում են գեներատիվ AI-ի հետ, ներառյալ և, հավանաբար, հատկապես GPT-4-ի և ChatGPT-ի օրինակում՝ նրանց անկասկած տարածված օգտագործման և զանգվածային լրատվամիջոցների և հանրային ուշադրության պատճառով: ներկա և ապագա AI.

Մի խոսքով, ինչպես ֆիլմի շարունակությունը, GPT-4-ը որոշ առումներով ավելի լավն է, քան ChatGPT-ն, օրինակ՝ ավելի մեծ, արագ և թվացյալ ավելի սահուն լինելը, մինչդեռ մյուս առումներով առաջացնում է լրացուցիչ և ընդգծված անհանգստություն (ես կանդրադառնամ դրանց շուտով այստեղ): Մի քիչ խառն արձագանք. Շարունակությունը սլեմ-դանկ չէ, որը շատերն էին ակնկալում: Պարզվում է, որ ամեն ինչ դրանից ավելի նրբերանգ է։ Թվում է, թե դա իրական աշխարհն է, որտեղ մենք բոլորս ապրում ենք:

Հավանաբար OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը դա լավագույնս ասել է 14 թվականի մարտի 2023-ին իր թվիթերում GPT-4-ի գործարկման մասին.

• «Ահա GPT-4-ը՝ մեր ամենակարող և համահունչ մոդելը դեռևս: Այն այսօր հասանելի է մեր API-ում (սպասողների ցուցակով) և ChatGPT+-ում»:
• «Դա դեռ թերի է, դեռևս սահմանափակ է, և այն դեռ ավելի տպավորիչ է թվում առաջին օգտագործման ժամանակ, քան այն, երբ ավելի շատ ժամանակ եք ծախսում դրա հետ»:

Իմ առաջարկներն այն մասին, թե ինչ կարող եք անել GPT-4-ի թողարկման արդյունքում և կախված ձեր առկա իրավիճակից կամ հանգամանքից, բաղկացած են հետևյալ հնարավոր գործողություններից.

• ChatGPT-ի գոյություն ունեցող օգտվողներ: Եթե ​​դուք արդեն օգտագործում եք ChatGPT, դուք պետք է ուշադիր նայեք GPT-4-ին, որպեսզի տեսնեք, թե արդյոք կարող եք օգտագործել այն փոխարենը (կամ կարող եք օգտագործել GPT-4-ը ի լրումն ChatGPT-ի, այնպես որ օգտագործեք ChatGPT-ից կամ GPT-ից մեկը: -4, կախված ձեր կարիքներից, երբ դրանք առաջանում են): Դուք կարող եք խաղալ GPT-4-ով, եթե բաժանորդագրվում եք ChatGPT Plus-ին, ChatGPT-ի օգտագործման ամսական $20 բաժանորդագրման ռեժիմին, հակառակ դեպքում, այս պահին GPT-4 մուտք գործելու հեշտ միջոց չունեք (նախազգուշացումը կամ շրջադարձը հետևյալն է. Microsoft Bing-ը, որոնողական համակարգը, օգտագործում է GPT-4-ի տարբերակ, որը ես քննարկել եմ այստեղ հղման վրա):
• Երբեք չի օգտագործել որևէ գեներացնող AI: Եթե ​​դուք չեք օգտագործում ChatGPT և երբևէ չեք օգտագործել որևէ գեներատիվ AI, կարող եք նախ սկսել ChatGPT-ով, քանի որ այն հասանելի է անվճար (կամ, իհարկե, հաշվի առեք ձեր ճանապարհորդությունը սկսելու համար օգտագործել բազմաթիվ այլ գեներատիվ AI հավելվածներ: այս AI տիրույթում): GPT-4-ն այս պահին անվճար չէ, ինչպես նշված է ChatGPT-ի առկա օգտատերերի վերաբերյալ վերը նշված կետերում: ChatGPT-ով ձեր ոտքերը թրջելուց հետո կարող եք որոշել՝ արժե՞ արդյոք բաժանորդագրվել ChatGPT Plus-ին՝ լրացուցիչ առավելություններ ստանալու համար, ներառյալ GPT-4-ին հասանելիությունը:
• Օգտագործելով որոշ այլ գեներատիվ AI: Եթե ​​դուք օգտագործում եք գեներացնող AI հավելված, բացի ChatGPT-ից, կարող է լինել, որ դուք կարող եք մեծ հետաքրքրություն առաջացնել GPT-4-ի հետ, քանի որ այն ունի բարելավումներ, որոնք գերազանցում են ChatGPT-ի առաջարկները: Ես նշում եմ սա, քանի որ որոշ խելամիտ AI օգտվողներ որոշեցին, որ ChatGPT-ն այնքան էլ լավ չէ իրենց համար, որքան մյուս տարբերակները: Ես խորհուրդ կտայի արդիականացնել GPT-4-ի մասին՝ որոշելու, թե արդյոք ձեր գոյություն ունեցող ընտրությունը դեռ լավագույնն է ձեզ համար: Դա կարող է լինել. Այսպիսով, ես չեմ ջատագովում, որ դուք հաստատ պետք է անցնեք GPT-4-ին և միայն ասում եմ, որ միշտ խելամիտ է անվադողերը խփել այլ հասանելի մեքենաների վրա:
• Այլ ծրագրեր, որոնք մուտք են գործում ChatGPT API-ի միջոցով: Նրանց համար, ովքեր պատրաստում են ծրագրակազմ, որը միանում է ChatGPT-ին API-ի միջոցով (հավելված ծրագրավորման ինտերֆեյս), որը ես քննարկել եմ այստեղ հղման վրա, խելամիտ կլինի ուշադիր նայել GPT-4-ի օգտագործմանը իր API-ի միջոցով: Մի մեծ հարց այն է, որ GPT-4 API-ի օգտագործման արժեքը շատ ավելի բարձր է, քան ChatGPT-ն օգտագործելը: Դուք կցանկանաք կատարել փոխզիջման վերլուծություն GPT-4-ի հավելյալ առավելությունների նկատմամբ՝ ընդդեմ ChatGPT-ի հետ մնալու ավելի ցածր գնով այլընտրանքի: Սա փոքր-ինչ բարդ որոշում է։ Դա արեք գիտակցաբար և ոչ թե անմտորեն:

Մի բան, որը շատերի համար ցնցող է թվում, այն է, որ լուրերի արժանահավատությունը այնքան էլ չի բարձրացել ավելի վաղ սպասված մակարդակին:

Թույլ տվեք բացատրել, թե ինչու:

Օրիգինալ բլոկբաստերը և այժմ դրա շարունակությունը

Դուք հավանաբար գիտեք, որ գեներացնող AI հավելվածը, որը հայտնի է որպես ChatGPT, հասանելի է դարձել անցյալ տարվա նոյեմբերի վերջին:

Սա զարմանալի հարված էր:

Մինչ այդ, գեներացնող արհեստական ​​ինտելեկտի հավելվածները լայն հասարակությանը թողարկելու նախկին ջանքերը սովորաբար արձագանքվում էին արհամարհանքով և զայրույթով: Մտահոգությունների հիմքն այն էր, որ գեներատիվ արհեստական ​​ինտելեկտը կարող է արտադրել այնպիսի արդյունքներ, որոնք պարունակում են բոլոր տեսակի անբարեխիղճ արդյունքներ, ներառյալ սրբապիղծ լեզու, անճոռնի կողմնակալություն, կեղծիքներ, սխալներ և նույնիսկ հորինված փաստեր կամ այսպես կոչված: AI հալյուցինացիաներ (Ինձ դուր չի գալիս այդ «հալյուցինացիաների» տերմինաբանությունը, քանի որ այն հակված է մարդաբանական արհեստական ​​ինտելեկտին, տես իմ քննարկումը այստեղ հղումով):

Գեներատիվ AI-ն արհեստական ​​ինտելեկտի մի տեսակ է, որը ներառում է ելքերի ստեղծում օգտատիրոջ կողմից մուտքագրված տեքստային հուշումներից, ինչպիսիք են տեքստի վրա հիմնված էսսեներ ստեղծելու կամ գեներացնելու հնարավորությունը, կամ արտադրել պատկերներ կամ արվեստի գործեր, կամ արտադրել աուդիո, կամ արտադրել տեսանյութ և այլն: կոչվում է տեքստից տեքստ, տեքստից շարադրություն, տեքստից արվեստ, տեքստից պատկեր, տեքստից աուդիո, տեքստից տեսանյութ և այլն: Գեներատիվ արհեստական ​​ինտելեկտի ուշագրավ կողմն այն է, որ ստեղծված աշխատանքները կարծես թե հավասար են մարդու կողմից ստեղծված արդյունքներին: Դուք դժվարությամբ կփորձեք տարբերակել գեներատիվ AI-ի արդյունքը համադրելի կոմպոզիցիայից, որը արտադրվել է բացառապես մարդու մտքի և մարդու ձեռքի կողմից:

Գեներատիվ AI-ի մասին ավելին իմանալու համար տե՛ս իմ շարունակական շարքը, ինչպիսին է այս հղումը այստեղ ChatGPT-ի և գեներատիվ AI-ի հիմունքների, ինչպես նաև ուսանողների կողմից ChatGPT-ի լուսաբանման և էսսեների վրա հնարավոր խաբեության խնդիրների մասին (օգտագործեք հղումն այստեղ), խիստ կասկածելի օգտագործման մասին: ChatGPT-ի հոգեկան առողջության վերաբերյալ խորհրդատվության համար (տե՛ս հղումը այստեղ), պոտենցիալ գրագողության և գեներացնող AI-ի հեղինակային իրավունքի խախտման վերաբերյալ մտահոգություններ (հղումը այստեղ), և շատ այլ կարևոր թեմաներ՝ այստեղ հղումով:

Պատճառի մի մասը, որ ChatGPT-ն կարծես թե չստացավ սովորական հարվածը, կապված էր AI ստեղծողի՝ OpenAI-ի կուլիսային որոշ աշխատանքի հետ՝ նախքան ChatGPT-ի թողարկումը: Նրանք փորձեցին օգտագործել տարբեր տեխնիկա և տեխնոլոգիաներ՝ ետ մղելու հատկապես ատելություն կրող և զզվելի էսսեներ: Հիշեք, որ ChatGPT-ը բացառապես տեքստից տեքստ կամ տեքստից էսսե գեներացնող AI ոճ է: Այսպիսով, արտառոց և կատաղեցնող արդյունքները կանխելու փորձերը բաղկացած են բառերով զբաղվելուց։ Նմանատիպ խնդիրներ առաջանում են, երբ արդյունքը արվեստն է կամ պատկերները, թեև դա կարող է հավասարապես կամ ավելի դժվար լինել բռնել՝ կանխելու այս կամ այն ​​տեսակի վիրավորական պատկերների արտադրությունը:

Հատկանշական տեխնիկան, որն ավելի ու ավելի է ընդունվում արհեստական ​​ինտելեկտի ստեղծողների կողմից, ներառում է օգտագործումը RLHF (ուժեղացում ուսուցում մարդկային արձագանքների միջոցով): Ահա թե ինչպես է դա սովորաբար աշխատում: Հենց որ գեներացնող AI հավելվածն ի սկզբանե վերապատրաստվի տվյալների, օրինակ՝ համացանցում տեքստի սկանավորման միջոցով, մարդկանց գրախոսներն օգտագործվում են՝ օգնելու ուղղորդել կամ ցուցադրել AI-ին, թե ինչն արժե ասել և ինչն է սկանդալային: Հաստատումների և մերժումների այս շարքի հիման վրա գեներացնող AI-ն մոտավորապես ի վիճակի է համընկնել այն, ինչը նորմալ է թվում արտանետելու համար և ինչն անթույլատրելի է թվում:

Կցանկանայի նշել ևս մեկ չափազանց կարևոր կետ.

AI-ն զգայուն չէ:

Անկախ նրանից, թե ինչ են հայտարարում խելագար վերնագրերը, վստահ եղեք, որ այսօրվա AI-ն զգայուն չէ: Գեներատիվ AI-ի համար հավելվածը հաշվողական օրինաչափությունների համապատասխանող ծրագրաշար է և տվյալների մոդելավորման ապարատ: Համացանցից միլիոնավոր միլիոնավոր բառեր ուսումնասիրելուց հետո ստացվում են բառերի և դրանց վիճակագրական հարաբերությունների մասին օրինաչափություններ: Արդյունքը մարդկային լեզվի նմանակման զարմանալի ձև է (AI-ի որոշ ինսայդերներ դա անվանում են a ստոխաստիկ թութակ, ինչն է ընդգծում միտքը, թեև, ցավոք, քննարկման մեջ բերում է այլապես զգայուն տարր):

Դուք կարող եք պատկերացնել գեներատիվ AI-ն որպես ավտոմատ լրացման գործառույթ, երբ օգտագործում եք բառի մշակման փաթեթ, թեև սա շատ ավելի ընդգրկուն և առաջադեմ հնարավորություն է: Համոզված եմ, որ դուք սկսել եք գրել նախադասություն և ունեք ավտոմատ լրացնել այդ առաջարկվող ձևակերպումը նախադասության մնացած մասի համար: Գեներատիվ AI-ի միջոցով, ինչպիսին է ChatGPT-ն, դուք մուտքագրում եք հուշում, և AI հավելվածը կփորձի ոչ թե պարզապես լրացնել ձեր խոսքերը, այլ կփորձի պատասխանել հարցերին և կազմել ամբողջական պատասխաններ:

Ի հավելումն, նորեկի սխալը, որը շատերը թույլ են տալիս ChatGPT-ի կամ նմանատիպ այլ գեներացնող AI հավելված օգտագործելիս, ենթադրում է ինտերակտիվ խոսակցական խոսակցական հիացական հնարավորությունների չօգտագործում: Որոշ մարդիկ տպում են հուշում և սպասում պատասխանի: Նրանք կարծես թե կարծում են, որ դրանում ամեն ինչ կա: Մեկ և արված: Բայց սա բացակայում է գեներատիվ AI-ի առանցքը: Առավել օգտակար մոտեցումը բաղկացած է մի շարք հուշումներից, որոնք կապված են գեներացնող AI-ի հետ երկխոսության մեջ ներգրավվելու հետ: Ահա, որտեղ գեներատիվ AI-ն իսկապես փայլում է, տես իմ օրինակները այստեղ հղման վրա:

ChatGPT-ն ազդարարվեց ԶԼՄ-ների և լայն հանրության կողմից որպես AI-ի զարմանալի առաջընթաց:

Իրականությունն այն է, որ արհեստական ​​ինտելեկտի շատ այլ նմանատիպ հավելվածներ ստեղծվել են, հաճախ հետազոտական ​​լաբորատորիաներում կամ վերլուծական կենտրոններում, և որոշ դեպքերում մեծապես հասանելի են դարձել հանրությանը: Ինչպես ասացի վերևում, արդյունքը սովորաբար գեղեցիկ չէր: Մարդիկ հրմշտում էին գեներացնող արհեստական ​​ինտելեկտի վրա և կարողացան ստանալ դաժան բնույթի էսսեներ, տես իմ լուսաբանումը այստեղ հղումով: Այդ դեպքերում արհեստական ​​ինտելեկտ ստեղծողները սովորաբար ստիպված էին լինում հանել AI-ն բաց շուկայից և նորից կենտրոնանալ լաբորատոր կիրառման կամ ուշադիր ընտրված AI բետա փորձարկողների և մշակողների վրա:

Արհեստական ​​ինտելեկտի մնացած արդյունաբերության մեծ մասը ապշած էր, որ ChatGPT-ին հաջողվեց քայլել դեռևս անբարոյական արդյունքներ արտադրելու ճոպանով, բայց ոչ այն աստիճանի, որ հանրային տրամադրությունները ստիպեցին OpenAI-ին հեռացնել AI հավելվածը ընդհանուր հասանելիությունից:

Սա ChatGPT-ի իսկական ցնցումն էր:

Մարդկանց մեծամասնությունը ենթադրում էր, որ ցնցումը խոսակցական կարողությունն է: Ոչ նրանց համար AI. Անակնկալը, որը զարմացրեց AI-ի գրեթե բոլոր ինսայդերներին, այն էր, որ դուք կարող եք արձակել գեներատիվ AI, որը կարող է ատելության արտահայտություններ առաջացնել, և արձագանքը բավականաչափ կատաղի չէր արագ նահանջելու համար: Ով գիտեր? Իրոք, մինչև ChatGPT-ի թողարկումը, ասեկոսեները կանխատեսում էին, որ մի քանի օրվա կամ առավելագույնը շաբաթվա ընթացքում OpenAI-ը կզղջա AI հավելվածը բոլոր այցելուներին հասանելի դարձնելու համար: Նրանք ստիպված կլինեն սահմանափակել մուտքը կամ, հնարավոր է, քայլել այն տուն և շունչ քաշել:

ChatGPT-ի ներդրման անհավատալի հաջողությունը զգուշությամբ բացեց AI-ի ստեղծող այլ հավելվածների դուռը՝ փողոցը նույնպես հանդիպելու համար: Օրինակ, ես քննարկել եմ Google-ի կողմից Bard-ի բացահայտումը և թե ինչպես են թեժանում ինտերնետ որոնողական համակարգերի պատերազմները՝ պայմանավորված գեներատիվ AI-ն սովորական վեբ որոնման մեջ միացնելու ցանկությամբ, տես հղումը այստեղ:

ChatGPT-ն ողջամտորեն կարելի է բնութագրել որպես բլոկբաստեր: Դա նույնպես, այսպես ասած, ոչ մի տեղից է: Երբեմն բլոկբաստեր ֆիլմը նախապես հայտնի է դառնում, որ թողարկումից հետո ամենայն հավանականությամբ բլոկբաստեր է լինելու: Մնացած դեպքերում ֆիլմը քնած է, որը զարմացնում է հանրությանը և նույնիսկ կինոարտադրողին: Դա այն է, ինչ տեղի ունեցավ ChatGPT-ի և OpenAI-ի հետ:

Լավ, ուրեմն մենք ունենք բլոկբաստերը՝ ChatGPT:

ChatGPT-ն հիմնականում հիմնված է GPT-ի տարբերակի վրա, որը հայտնի է որպես GPT-3.5: Նախկինում եղել են GPT-3, GPT-2 և այլն: AI աշխարհը և նրանք, ովքեր շոշափում են AI-ն, բոլորն էլ գիտեին, որ OpenAI-ն աշխատում էր հաջորդ տարբերակի վրա՝ GPT-4:

GPT-4-ը կհամարվի ChatGPT-ի իրավահաջորդը կամ շարունակությունը:

Սա մեզ վերադարձնում է ֆիլմերի մասին իմ անալոգիան: ChatGPT-ը՝ անակնկալ բլոկբաստերը, մեծ ժողովրդականություն էր վայելում: Ակնկալիքներն այն մասին, թե ինչպիսին կլինի GPT-4-ը և ինչպես կարձագանքի հասարակությունը, լի էին կատաղի շահարկումներով: GPT-4-ը կքայլեր ջրի վրայով: GPT-4-ն ավելի արագ կլինի, քան արագընթաց գնդակը: GPT-4-ը կլինի զգայուն AI կամ Արհեստական ​​ընդհանուր բանականության (AGI) ձեռքբերում:

Անցավ և շարունակվեց:

Դուք կարող եք անորոշ տեղյակ լինել, որ OpenAI-ի գործադիր տնօրեն Սեմ Ալթմանը ասել է այս մասին YouTube-ում հրապարակված հարցազրույցում (17 թվականի հունվարի 2023). «GPT-4 բամբասանքները ծիծաղելի բան են: Ես չգիտեմ, թե որտեղից է այդ ամենը գալիս: Մարդիկ աղաչում են, որ հիասթափվեն ու կլինեն։ Հաճույքը նման է… Մենք իրական AGI չունենք, և դա մեզնից սպասելի է»:

Դե, GPT-4-ն այստեղ է:

Ֆիլմը դուրս է եկել։

Մենք կարող ենք դա տեսնել մեր սեփական աչքերով: Այլևս չզսպված շահարկումներ չկան: Իրականությունը խարխափել է.

Եկեք բացենք նոր փայլուն խաղալիքը:

GPT-4-ի հիմնական սկզբունքները

Դուք, անկասկած, ցանկանում եք իմանալ, թե ինչ է ապահովում GPT-4-ը:

Իմ քննարկման ընթացքում ես կանդրադառնամ տարբեր փաստաթղթերին և տեսանյութերին, որոնք OpenAI-ը հասանելի է դարձրել GPT-4-ի մասին, ինչպես նաև դիտողություններ կանեմ՝ հիմնված իմ կողմից GPT-4-ի օգտագործման վրա: Քննարկման հեշտության համար, խնդրում եմ, իմացեք, որ կան երկու օգտակար փաստաթուղթ, որոնք ես ջանասիրաբար մեջբերելու եմ, մեկը վերնագրված է OpenAI-ի պաշտոնյան GPT-4 տեխնիկական հաշվետվություն իսկ մյուսը OpenAI-ի պաշտոնյան է GPT-4 համակարգի քարտ փաստաթուղթ (երկուսն էլ հասանելի են OpenAI-ի կայքում): Ես դրանք մեջբերեմ «ի» հապավումներով TR համար GPT-4 տեխնիկական հաշվետվություն և SC համար GPT-4 համակարգի քարտ.

Սկսենք՝ մեջբերելով TR-ի վերացականի առաջին նախադասությունը.

• «Մենք զեկուցում ենք GPT-4-ի մշակման մասին՝ լայնածավալ, մուլտիմոդալ մոդելի, որը կարող է ընդունել պատկերների և տեքստի մուտքագրումներ և արտադրել տեքստային արդյունքներ»:

Հավատում եք, թե ոչ, այդ մեկ նախադասության մեջ շատ բան կա:

Նստեք և ձեր ձեռքում հարմարավետ ըմպելիք խմեք։

Մի ասպեկտ, որը ընդհանուր ընդունված կանոն է գեներատիվ AI-ի վերաբերյալ, այն է, որ որքան մեծ է համակարգը, այնքան ավելի հավանական է դառնում սահունությունը և ընդհանուր կարողությունը: Սա, կարծես, համեմատաբար լավ հաստատված է գեներատիվ AI համակարգերի պատմականորեն աճող չափերով և դրանց աճող ուշագրավ սահունությամբ՝ ինտերակտիվ խոսակցություններ վարելու առումով: Ոչ բոլորն են կարծում, որ դա պետք է լինի, և կան հետազոտողներ, որոնք ակտիվորեն փնտրում են ավելի փոքր չափի կարգավորումներ, որոնք օգտագործում են տարբեր օպտիմալացումներ՝ պոտենցիալ հասնելու համար, որքան իրենց ավելի մեծ եղբայրները:

GPT-4-ի մասին վերը նշված նախադասության մեջ TR-ից դուք կարող եք նկատել այն արտահայտությունը, որ այն «լայնածավալ» գեներատիվ AI է: Բոլորը, ամենայն հավանականությամբ, հակված են փոխհամաձայնելու՝ հիմնվելով այսօրվա գեներատիվ AI համակարգերի հարաբերական չափերի վրա:

AI ինսայդերների մտքում ակնհայտ հարցն այն է, թե որքան մեծ է լայնածավալ երբ խոսքը վերաբերում է GPT-4-ին?

Սովորաբար, AI ստեղծողը հպարտորեն հայտարարում է իրենց գեներացնող AI-ի չափերի տարբեր չափումներ: Դուք կարող եք դա անել, որպեսզի տեղեկացնեք AI աշխարհի մնացած մասերին, թե որքան կարևոր են չափը և մասշտաբը: Դուք կարող եք դա անել պարծենալու համար: Դուք կարող եք դա անել պարզապես այն պատճառով, որ այն նման է մեքենայի, որտեղ բնական հետաքրքրությունն այն է, թե որքան մեծ է շարժիչը և որքան արագ է այն շարժվելու:

Ըստ TR-ի՝ ահա թե ինչ է նշվում.

• «Հաշվի առնելով և՛ մրցակցային լանդշաֆտը, և՛ լայնածավալ մոդելների անվտանգության հետևանքները, ինչպիսին է GPT-4-ը, այս զեկույցը լրացուցիչ մանրամասներ չի պարունակում ճարտարապետության (ներառյալ մոդելի չափսերի), սարքավորումների, ուսումնական հաշվարկների, տվյալների բազայի կառուցման, ուսուցման մեթոդի կամ նմանատիպ այլ մանրամասներ:

AI ինսայդերները հակված են սա գայթակղիչ համարել: Մի կողմից, դիվանագիտության հետ անհանգստացնող ընդմիջում է թվում այս կարևոր հատկանիշների մասին չպատմելը: Ասված է, որ տրամաբանությունը, որ դա անելը կարող է բացահայտել սեփականության գաղտնիքները կամ, հնարավոր է, կարող է բացել կիբերանվտանգության զրահների դուռը, լավ, թվում է, որ դա նույնպես իմաստ ունի:

Արդյո՞ք արհեստական ​​ինտելեկտ ստեղծողները պետք է ստիպված լինեն բացահայտելու իրենց գեներացնող արհեստական ​​ինտելեկտի վերաբերյալ որոշակի առանձնահատկություններ՝ դա անելով այն աստիճանի և ձևի, որը ակամա թույլ չի տա որևէ կենսական կարևոր հուշում:

Ես ձեզ թույլ կտամ հագնել ձեր AI-ի էթիկայի գլխարկը, որպեսզի մտածեք այս մասին:

Ոմանք կարծում են, որ մենք կարող ենք նաև ավարտել AI-ի նոր օրենքները, որոնք կպահանջեն հստակ բացահայտումներ:

Մտածմունքն այն է, որ հանրությունը պետք է իմանա, թե ինչ է կատարվում AI-ի հետ, հատկապես, երբ AI-ն մեծանում է և, ենթադրաբար, պոտենցիալ ունի էքզիստենցիալ ռիսկերի սարսափելի գոտին ի վերջո շեղվելու, տես իմ վերլուծությունը այստեղ հղումով:

Շարժվելով առաջ՝ մենք նաև չգիտենք, թե ինչ տվյալներ են օգտագործվել GPT-4-ի մարզման համար։

Տվյալները ստեղծում կամ խախտում են գեներատիվ AI-ի գալուստը: Որոշ մարդիկ կեղծ ենթադրում են, որ ամբողջ ինտերնետը սկանավորվել է այս գեներացնող AI հնարավորությունները մշակելու համար: Ոչ. Իրականում, քանի որ ես քննարկում եմ այստեղ հղումով, ինտերնետի միայն փոքր հատվածն է սկանավորվում:

Կապակցված ասպեկտն այն է, թե արդյոք գեներացնող AI-ն իրական ժամանակում սկանավորում է ինտերնետը և ճշգրտում է հաշվողական օրինաչափությունների համապատասխանությունը: ChatGPT-ը սահմանափակված էր միայն 2021 թվականից ոչ ուշ կատարված սկանավորումներով: Սա նշանակում է, որ երբ դուք օգտագործում եք ChatGPT, գրեթե չկան տվյալներ այն մասին, թե ինչ է տեղի ունեցել 2022 և 2023 թվականներին:

Խոսակցություններն այն մասին էին, որ GPT-4-ը կպարունակի արդի և իրական ժամանակի միացում ինտերնետին՝ թռիչքի ժամանակ կարգավորելու համար:

Ահա թե ինչ է ասում TR-ը.

• «GPT-4-ը, ընդհանուր առմամբ, չունի գիտելիքներ այն իրադարձությունների մասին, որոնք տեղի են ունեցել այն բանից հետո, երբ 2021 թվականի սեպտեմբերին նրա նախնական վերապատրաստման տվյալների ճնշող մեծամասնությունը կտրվել է և դասեր չի քաղում իր փորձից: Այն երբեմն կարող է պատճառաբանության պարզ սխալներ թույլ տալ, որոնք, թվում է, չեն համապատասխանում այդքան շատ տիրույթների իրավասությանը, կամ չափազանց դյուրահավատ լինել՝ ընդունելով օգտատիրոջ ակնհայտ կեղծ հայտարարությունները»:

Հավանաբար, դուք կարող եք տեսնել, թե ինչու են ոմանք մի փոքր հիասթափված GPT-4-ից: Շշուկները ենթադրում էին, որ այն կգործի իրական ժամանակում՝ միաժամանակ հարմարեցնելով ինտերնետին: Համարվում է մեծ բարելավում ChatGPT-ի նկատմամբ: Իրականությունն այն է, որ GPT-4-ը դեռ գործ ունի թվագրված տվյալների հետ: Եվ իրական ժամանակում չի կատարվում հաշվողական օրինաչափությունների համապատասխանեցում, որը հիմնված է ինտերնետից թարմացումների վրա:

Ես ձեզ համար ավելի շատ նորություններ ունեմ:

Այն նախադասությունը, որը ես ավելի վաղ մեջբերել էի GPT-4-ի մասին, որպես լայնածավալ, նույնպես ասում էր, որ GPT-4-ն է բազմամոդալ.

Թույլ տվեք որոշակի նախապատմություն տալ հասկացության վերաբերյալ բազմամոդալ գեներատիվ AI.

Այս քննարկման սկզբում ես նշեցի, որ կան գեներատիվ AI-ի տարբեր տեսակներ, ինչպիսիք են՝ տեքստից տեքստ կամ տեքստից շարադրություն, տեքստից արվեստ կամ տեքստից պատկեր, տեքստից աուդիո, տեքստ: -Տեսանյութ և այլն: Դրանք բոլորը համարվում են բովանդակության մշակման եզակի եղանակ: Օրինակ, դուք կարող եք մուտքագրել որոշ տեքստ և ստանալ ստեղծած շարադրություն: Մեկ այլ օրինակ կարող է լինել այն, որ դուք մուտքագրեք տեքստ և ստացեք ստեղծած արվեստի գործ:

Անցյալ տարվա վերջում ես իմ տարեկան կանխատեսումներն արեցի այն մասին, թե ինչ ենք տեսնելու 2023 թվականի AI-ի առաջխաղացումներում (տե՛ս հղումը այստեղ): Ես հայտարարել էի, որ բազմամոդալ գեներատիվ AI-ն թեժ է լինելու: Գաղափարն այն է, որ դուք կարող եք, օրինակ, մուտքագրել տեքստ և պատկեր (ներածման երկու ռեժիմ), օգտագործելով դրանք որպես հուշում գեներատիվ AI-ի մեջ, և կարող եք ստանալ շարադրություն որպես արդյունք՝ ստեղծած տեսանյութի և աուդիո հետքի հետ միասին (երեք ռեժիմ՝ ելք):

Այսպիսով, մի շարք ռեժիմներ կարող են գոյակցել: Դուք կարող եք ունենալ բազմաթիվ ռեժիմներ հուշման կամ մուտքագրման ժամանակ: Դուք կարող եք նաև ունենալ բազմաթիվ ռեժիմներ առաջացած պատասխանում կամ ելքում: Դուք կարող եք խառնել և համընկնել ինչպես մուտքերում, այնպես էլ ելքերում: Հենց այնտեղ են գնում գործերը։ Հետաքրքիրն ու հնարավորությունները, թե ինչ կարելի է անել գեներատիվ AI-ի հետ, չափազանց բաց են բազմամոդալ ֆունկցիոնալության պատճառով:

ChatGPT-ն ունի միայն եզակի ռեժիմ: Դուք մուտքագրում եք տեքստ, դուք ստանում եք որոշակի գեներացված տեքստ որպես ելք:

Խոսակցություններն այն մասին էին, որ GPT-4-ը կխախտի ձայնային պատնեշը, կարծես թե, և կապահովի ամեն ինչի լիարժեք բազմամոդալ հնարավորություններ ամեն ինչի համար: Բոլորը գիտեին, որ այդ տեքստը ներառվելու է: Սպասվում էր, որ կավելացվեն պատկերներ կամ արվեստի գործեր, ինչպես նաև աուդիո և, հնարավոր է, նույնիսկ տեսանյութ: Դա կլինի անվճար բոլորի համար: Մուտքագրման ցանկացած ռեժիմ, ներառյալ այդ ռեժիմներից այնքան, որքան ցանկանում եք: Գումարած ելքի ցանկացած ռեժիմ, ներառյալ խառը ռեժիմներից այնքան շատ, որքան կցանկանաք ունենալ:

Մի իսկական smorgasbord ռեժիմների.

Ի՞նչ է ապահովում GPT-4-ը:

Վերադարձեք այդ նախադասությանը TR-ից.

• «Մենք զեկուցում ենք GPT-4-ի մշակման մասին՝ լայնածավալ, մուլտիմոդալ մոդելի, որը կարող է ընդունել պատկերների և տեքստի մուտքագրումներ և արտադրել տեքստային արդյունքներ»:

Դուք կարող եք մուտքագրել տեքստ, և դուք կստանաք ելքային տեքստ, գումարած, դուք կարող եք մուտքագրել պատկեր:

Ցուցադրումները, որոնք ցուցադրում են մուտքագրված պատկերների պատկերը կամ տեսողության մշակումը, ցույց են տվել, որ նկարի տարրերը, օրինակ, կարող են նույնականացվել գեներատիվ AI-ի կողմից, այնուհետև կազմել գրավոր պատմվածք՝ բացատրելով նկարը: Դուք կարող եք խնդրել գեներատիվ AI-ին բացատրել, թե ինչ է պատկերված նկարը: Ընդհանուր առմամբ, տեսողության մշակումը նշանակալի հավելում կլինի:

Տեսողության մշակման կամ պատկերի վերլուծության հնարավորությունը դեռ հասանելի չէ հանրային օգտագործման համար (ըստ OpenAI կայքի բլոգի).

• «Պատկերի մուտքագրման հնարավորությունը ավելի լայն հասանելիության պատրաստելու համար մենք սերտորեն համագործակցում ենք մեկ գործընկերոջ հետ՝ սկսելու համար»:

Այս ամենի էությունը կայանում է նրանում, որ սրտատրոփ է գիտակցել, որ GPT-4-ը, ըստ երևույթին, ունի պատկերի մուտքագրում և վերլուծություն կատարելու հնարավորություն: Շատերն անհամբեր սպասում են այս գործառույթի հրապարակային թողարկմանը: Փառք OpenAI-ին բազմամոդալ ասպարեզ մղելու համար:

Այսպիսով, մենք ունենք տեքստ որպես մուտքագրում, գումարած պատկերը որպես մուտքագրում (երբ հասանելի է հանրային օգտագործման համար), և տեքստը որպես ելք:

Ոմանք, թեև արհեստական ​​ինտելեկտի համայնքում մատնանշում են, որ դա հազիվ թե համապատասխանում է հասկացությանը բազմամոդալ. Այո, կա ևս մեկ ռեժիմ՝ պատկերը որպես մուտքագրում։ Բայց ոչ պատկեր որպես արդյունք: Ըստ երևույթին, չկա աուդիո որպես մուտքագրում, ոչ էլ աուդիո որպես ելք: Կարծես թե տեսանյութ չկա որպես մուտքագրում, ոչ էլ տեսանյութ՝ որպես ելք: Մռայլ թեքում ունեցողները գտնում են, որ սա «մուլտի-մոդալ» է ամենամինիմալիստական ​​ձևերով:

Հակափաստարկն այն է, որ քայլելուց առաջ պետք է սողալ, իսկ վազելուց առաջ քայլել:

Կարծում եմ, որ դա ընդգրկում է TR-ի առաջին նախադասությունը, և մենք կարող ենք անցնել լրացուցիչ թեմաների:

GPT-4-ի ավելի կարևոր կետեր

Ես պատրաստվում եմ արագացնել հիմա, երբ դուք ունեք որոշակի լրացուցիչ նախապատմություն այս հարցում:

Ահա մի կարևոր բան, ինչպես նշվում է GPT-4-ի մասին OpenAI բլոգում.

• «Վերջին երկու տարիների ընթացքում մենք վերակառուցեցինք մեր խորը ուսուցման ամբողջ փաթեթը և Azure-ի հետ միասին ստեղծեցինք գերհամակարգիչ՝ ի սկզբանե մեր աշխատանքային ծանրաբեռնվածության համար»:

Երկու արագ կետ այս մասին.

Նախ, այն ցուցումը, որ նրանք վերակառուցել են իրենց ամբողջ խորը ուսուցման կույտը, անշուշտ, ուշագրավ դիտողություն և ձեռքբերում է (դա նշանակում է, որ նրանք վերամշակել են հաշվողական օրինաչափությունների համապատասխանող մոդելները և որոշել են վերակառուցել, թե ինչպես են իրերը աշխատում գլխարկի տակ): Լավ է նրանց համար: Ոմանք արտահայտում են աղերսող հարցն այն է, որ, անշուշտ, լավ կլիներ իմանալ, թե կոնկրետ ինչ են արել նրանք այս վերակառուցման ժամանակ: TR-ն և SC-ն որոշակիորեն նշում են տեղի ունեցածը, բայց ոչ խորը:

Իհարկե, դուք կարող եք համոզիչ կերպով պնդել, որ նրանք չպետք է բացահայտեն իրենց գաղտնի սոուսը: Նրանք դա անելու ոչ մի պահանջ չունեն: Ինչու՞ անհարկի օգնություն տրամադրել իրենց մրցակիցներին: Մետաղադրամի մյուս կողմը պնդում է, որ արհեստական ​​ինտելեկտի և հասարակության բարելավման համար, ենթադրաբար, դա կնպաստի գեներատիվ արհեստական ​​ինտելեկտի առաջխաղացմանը, որը, ըստ երևույթին, լավ կլինի մարդկության համար (հուսով է):

Մենք վերադարձել ենք AI-ի էթիկայի և արհեստական ​​ինտելեկտի իրավունքի այդ փխրուն բաժանարար գիծը:

Երկրորդ, մեջբերված դիտողությունը ցույց է տալիս, որ նրանք ի սկզբանե նախագծել են գերհամակարգիչ: Բացի այն հետաքրքրությունից, թե ինչ է անում այս սուպերհամակարգիչը և ինչպես է այն աշխատում, որոնցից մի քանիսը բացատրվել են, սա բոլորովին այլ հարց է առաջացնում:

Ոմանք անհանգստանում են, որ գեներատիվ AI-ն դառնում է մեծ գումարային խաղ: Միայն ամենամեծ գումարներ և ամենամեծ ռեսուրսներ ունեցող տեխնոլոգիական ընկերությունները կկարողանան մշակել և կիրառել գեներատիվ AI: Սա կասկածի տակ դնելու պատճառն այն է, որ, հավանաբար, մենք ունենալու ենք գեներատիվ AI, որը խստորեն վերահսկվում է միայն մի քանի տեխնոլոգիական ընկերությունների կողմից: Մենք կարող ենք մեծապես կախված լինել այդ ընկերություններից և նրանց ապրանքներից:

Արդյո՞ք մեզ անհրաժեշտ է օգտագործել գոյություն ունեցող օրենքները կամ մշակել արհեստական ​​ինտելեկտի նոր օրենքներ՝ կանխելու համար գեներատիվ արհեստական ​​ինտելեկտի կոնցենտրացիան ընդամենը մի քանիսի նեղ կառավարման ներքո:

Մտածելու բան:

Եթե ​​սպասում եք, որ կոշիկը իջնի ChatGPT-ի և GPT-4-ի միջև ինչ-որ աներևակայելի մեծ տարբերության առումով, նայեք սա GPT-4-ի մասին հրապարակող OpenAI բլոգից.

• «Պատահական զրույցի ժամանակ տարբերությունը GPT-3.5-ի և GPT-4-ի միջև կարող է նուրբ լինել: Տարբերությունն ի հայտ է գալիս, երբ առաջադրանքի բարդությունը հասնում է բավարար շեմի. GPT-4-ն ավելի հուսալի է, ստեղծագործական և կարող է շատ ավելի նրբերանգ հրահանգներ վարել, քան GPT-3.5-ը»:

Ես պարզեցի, որ այս տարբերակիչ տարբերությունը որոշ չափով այդպես է, այն է, որ եթե դուք ամենօրյա պարապ մի տեսակ զրույց եք անում ChatGPT-ի հետ և նույնն անում եք GPT-4-ի հետ, կարող եք առանձնապես չհասկանալ, որ GPT-4-ն ընդհանուր առմամբ ավելի հզոր է համարվում: .

Մի ասպեկտը, որը կարծես թե առանձնահատուկ է, բաղկացած է երկու գեներացնող AI հավելվածների հետ ձեր խոսակցությունների համատեքստ ստեղծելուց:

Ահա թե ինչ նկատի ունեմ:

Երբ դուք օգտագործում եք գեներացնող AI հավելվածը, դուք երբեմն ուղղակի ցատկում եք դեպի զրույց, որը սկսում և շարունակում եք AI-ի հետ մեկտեղ: Այլ դեպքերում, դուք սկսում եք AI-ին ասելով զրույցի ենթատեքստը: Օրինակ, ես կարող եմ սկսել գեներատիվ AI-ին ասելով, որ ես ուզում եմ քննարկել ավտոմեքենաների շարժիչները AI-ի հետ, և որ ես ուզում եմ, որ AI-ն ձևացնի, որ ինքը մեքենայի մեխանիկ է: Սա այնուհետև սահմանում է AI-ի համապատասխան արձագանքման փուլը կամ կարգավորումը:

Շատ մարդիկ, ովքեր օգտագործում են ChatGPT, չեն գիտակցում համատեքստը սահմանելու կարևորությունը, երբ նրանք առաջին անգամ երկխոսություն են վարում AI հավելվածի հետ: Դա կարող է լինել հսկայական տարբերություն այն առումով, թե ինչ պատասխան կստանաք: Ես հաճախ եմ գտնում, որ ChatGPT-ն ինքնին այնքան էլ լավ չի հղկվում կոնկրետ համատեքստերում: Փորձում է, բայց հաճախ թերանում է: Առայժմ GPT-4-ը կարծես թե իսկապես փայլում է համատեքստային հաստատման օգտագործման միջոցով:

Եթե ​​դուք պատրաստվում եք օգտագործել գեներատիվ AI և ցանկանում եք ստեղծել համատեքստեր, երբ դա անում եք, ես անպայման ընդհանուր առավելությունը կտամ GPT-4-ին ChatGPT-ի նկատմամբ:

Կապակցված տարրի վրա կա նաև մի ասպեկտ, որը հայտնի է որպես ղեկավարություն որ մտնում է խաղի մեջ:

ChatGPT-ի որոշ օգտատերեր զարմացել են, երբ երբեմն AI հավելվածը տալիս է պատասխաններ, որոնք, հավանաբար, չափազանց հումորային կամ չափազանց կարճ են թվում: Սա կարող է առաջանալ, եթե գեներատիվ AI-ն ձեր մուտքագրման հուշում հայտնաբերի ինչ-որ բան, որը կարծես թե առաջացնում է նման արձագանք: Դուք կարող եք կատակով հարցնել ինչ-որ բանի մասին և չհասկանալ, որ դա այնուհետև ChatGPT-ին կուղղորդի դեպի կատակներ և թեթև տոն:

GPT-4-ի և կառավարելիության մասին OpenAI բլոգի հրապարակման համաձայն.

• «Կլասիկ ChatGPT անհատականության փոխարեն ֆիքսված խոսակցությամբ, տոնով և ոճով, մշակողները (և շուտով ChatGPT օգտվողները) այժմ կարող են սահմանել իրենց AI-ի ոճն ու առաջադրանքը՝ նկարագրելով այդ ուղղությունները «համակարգի» հաղորդագրության մեջ: Համակարգային հաղորդագրությունները թույլ են տալիս API օգտագործողներին զգալիորեն հարմարեցնել իրենց օգտատերերի փորձը սահմաններում»:

Կրկին, սա կբարձրացնի օգտագործողի փորձը գեներացնող AI հավելվածների հետ: Այլ գեներատիվ AI ստեղծողները նույն կերպ են վարվում, և մենք անխուսափելիորեն կունենանք AI-ի գրեթե բոլոր հավելվածները՝ կառավարման որոշակի ձևով և համատեքստային հաստատման ֆունկցիոնալությամբ:

Դժվար ճանապարհը դեռ առջեւում է

Ընդհանուր առմամբ, գեներատիվ AI-ի հիմքում ընկած շարունակական և անհանգստացնող խնդիրն այն է, որ կարող են արտադրվել բոլոր տեսակի տհաճ և ուղղակի անհանգստացնող արդյունքներ:

Իմ սյունակային գրառումներում ես լուսաբանել եմ այս տարբեր և սթափեցնող մտահոգությունները.

• Արհեստական ​​ինտելեկտի գեներատիվ սխալներ
• Արհեստական ​​ինտելեկտի գեներատիվ կեղծիքներ
• Generative AI ներդրված կողմնակալություններ
• AI հալյուցինացիաներ
• Գաղտնիության ներխուժումներ
• Տվյալների գաղտնիության թույլ կողմերը
• Ապատեղեկատվություն տարածող
• Ապատեղեկատվության տարածող
• Երկակի օգտագործման զենքի համար
• Մարդկանց կողմից գերվստահություն
• Տնտեսական ազդեցությունները մարդկանց վրա
• Կիբերհանցագործությունների խթանում
• Etc.

Որոշ խոսակցություններ այն մասին էին, որ կախարդական և հրաշքով GPT-4-ը պատրաստվում էր մաքրել և լուծել արհեստական ​​ինտելեկտի գեներացնող բոլոր հիվանդությունները:

Ճիշտ գլուխը ուսերին դրած ոչ ոք չէր մտածում, որ նման խոսակցությունը կարող է ջուր պահել։ Սրանք AI-ի շատ դժվար խնդիրներ են: Դրանք հեշտությամբ չեն լուծվում։ Դեռևս շատ բան կա անելու այս տեւական և սանձարձակ դժվարությունների դեմ պայքարելու համար: Հավանաբար, գյուղ կպահանջվի, որպեսզի հաղթահարի արհեստական ​​ինտելեկտի էթիկայի հարցերը, որոնք ընդգրկված են գեներացնող AI-ի միջավայրում:

Վարկանիշ տալու համար OpenAI-ը փորձել է բացատրել, թե ինչպես են նրանք լուծում այս բազմաթիվ տարբեր մարտահրավերները: Ձեզանից նրանք, ովքեր հետաքրքրված են արհեստական ​​ինտելեկտի էթիկայով, պետք է մտածեն TR-ի և SC-ի մանրամասն ընթերցանության մասին:

Ահա, օրինակ, մի քանի պարզ մեկնաբանություններ GPT-4-ի վերաբերյալ, ինչպես նշված է OpenAI-ի կողմից TR-ում.

• «GPT-4-ը կարող է առաջացնել պոտենցիալ վնասակար բովանդակություն, օրինակ՝ հարձակումներ պլանավորելու կամ ատելության խոսքի վերաբերյալ խորհուրդներ: Այն կարող է ներկայացնել տարբեր հասարակական կողմնակալություններ և աշխարհայացքներ, որոնք կարող են չներկայացնել օգտատերերի մտադրություններին կամ ընդհանուր արժեքներին: Այն կարող է նաև առաջացնել կոդ, որը վտանգված է կամ խոցելի: GPT-4-ի լրացուցիչ հնարավորությունները նույնպես հանգեցնում են նոր ռիսկային մակերեսների»:

Ավելին, նրանք ասում են սա TR-ում.

• «Այս վերլուծության միջոցով մենք գտնում ենք, որ GPT-4-ը կարող է օգտագործվել մասնավոր անձանց նույնականացման փորձի համար, երբ լրացվում է արտաքին տվյալների հետ: Մենք նաև գտնում ենք, որ թեև GPT-4-ի կիբերանվտանգության հնարավորությունները զգալիորեն գերազանցում են LLM-ների նախորդ սերունդները, այն շարունակում է հաջող կիբերհարձակման որոշակի քայլերի արժեքը նվազեցնելու միտումը, օրինակ՝ սոցիալական ինժեներիայի միջոցով կամ առկա անվտանգության գործիքների ընդլայնման միջոցով: . Առանց անվտանգության մեղմացումների, GPT-4-ը կարող է նաև ավելի մանրամասն ուղեցույց տալ, թե ինչպես վարել վնասակար կամ անօրինական գործողություններ»:

Ես այստեղ սյունակի տարածություն չունեմ, որպեսզի ծածկեմ այս դժվարությունների հետ կապված բոլոր բազմաթիվ կետերը: Փնտրեք լրացուցիչ սյունակի լուսաբանում գեներատիվ AI-ի իմ շարունակական վերլուծության մեջ՝ AI էթիկայի և AI օրենքի տեսանկյունից:

Թվում է, թե արժե մի պահ տրամադրել և ընդունել, որ OpenAI-ը հասանելի է դարձրել իրենց նույնականացումը, թե ինչպես են նրանք մոտենում այս դժվարին մարտահրավերներին: Կարելի է ասել, որ պատճառ չկար, որ նրանք ստիպված լինեն դա անել։ Նրանք կարող էին պարզապես վարվել այնպես, կարծես այնտեղ տեսնելու ոչինչ չկա: Կամ նրանք կարող էին պարզապես ինչ-որ անորոշ ձեռքով թափահարել և պնդել, որ իրենք շատ խելամիտ բաներ են անում այս հարցերը լուծելու համար:

Բարեբախտաբար, նրանք ընտրել են խելամիտ մոտեցումը՝ փորձելով այնտեղից դուրս գալ՝ ընդառաջ արձագանքներից և աչքակապից առաջ, որը սովորաբար տեղի է ունենում արհեստական ​​ինտելեկտի գեներատիվ թողարկումների հետ: Նրանք, ենթադրաբար, նպատակ ունեն հաստատապես ցուցադրել իրենց լրջությունն ու նվիրվածությունը այս խնդիրները արմատախիլ անելու և դրանք մեղմելու կամ լուծելու ձգտելու համար:

Ես կառաջարկեի լրացուցիչ միտք, որ AI-ի ոլորտը, որը բոլորն ասել են, դաժան ծեծի է ենթարկվելու, եթե շարունակական և ծանր ջանք չգործադրվի այս հարցերը անմիջականորեն և առաջիկայում հետամուտ լինելու համար: Թաքնված «սև արկղերի» մոտեցման ընդունումը, անշուշտ, կբարձրանա լայն հանրության զայրույթի մեջ: Կարող եք նաև ակնկալել, որ եթե արհեստական ​​ինտելեկտի ընկերությունները չփորձեն լուծել այս խնդիրները, հավանական է, որ օրենսդիրներն ու կարգավորող մարմինները կներգրավվեն այս հարցերի մեջ, և AI նոր օրենքների ցունամին կանդրադառնա բոլոր AI ստեղծողներին և այդ ոլորտին: AI.

Ոմանք կարծում են, որ մենք արդեն այդ հանգրվանում ենք:

Նրանք պնդում են, որ չնայած AI ստեղծողներից շատերը, թվում է, կիսում են իրենց արածը, սա որոշակիորեն իրական հերքման նենգ ձև է: Մի խոսքով, առաջ գնացեք և հանեք AI-ը, որը սարսափելի է և ակնհայտորեն սխալ, այլ ոչ թե սպասեք, մինչև բաները ավելի լավ մշակվեն, և ետ պահեք AI-ի էթիկայի և AI օրենքի մեջ՝ հայտարարելով, որ անում եք հնարավոր ամեն ինչ՝ շտկելու համար: Ես հաճախ եմ քննարկել այս «սպասել մինչև պատրաստ լինելը» շարունակվող հակասությունները իմ սյունակի լուսաբանման մեջ:

Ըստ TR:

• «OpenAI-ը կրկնում է GPT-4-ը և մեր տեղակայման պլանը օգոստոսի սկզբից՝ պատրաստվելու ավելի անվտանգ գործարկմանը: Մենք կարծում ենք, որ սա նվազեցրել է ռիսկի մակերեսը, թեև այն ամբողջությամբ չի վերացրել: Այսօրվա տեղակայումը ներկայացնում է հավասարակշռություն տեղակայման ռիսկը նվազագույնի հասցնելու, դրական օգտագործման դեպքերի հնարավորության և տեղակայումից սովորելու միջև»:

Վերադառնալով քննարկվող հարցին՝ ես ավելի վաղ նշեցի, որ AI հալյուցինացիաները գերակշռող խնդիր են, երբ խոսքը վերաբերում է գեներատիվ AI-ին:

Կրկին, ինձ դուր չի գալիս այս բառակապակցությունը, բայց կարծես թե բռնել է: AI հալյուցինացիաների հետ կապված հիմնախնդիրն այն է, որ նրանք կարող են արտադրել այնպիսի արդյունքներ, որոնք պարունակում են շատ խելահեղ իրեր: Դուք կարող եք մտածել, որ օգտատերը պետք է որոշի, թե արդյոք արդյունքները ճիշտ են, թե սխալ: Մտահոգությունն այստեղ այն է, որ ելքերը կարող են պարունակել հորինված նյութեր, որոնք օգտագործողը չունի պարզելու հեշտ միջոց: Նրանք կարող են հավատալ ամբողջ խոզին այն ամենին, ինչ ասում է արդյունքը:

Գոյություն ունի նաև գեներացնող AI-ի արդյունքներին հավատալու նուրբ միտում: Սովորաբար, արդյունքը գրվում է այնպիսի տոնով և ձևով, որը հուշում է վստահության անկասկած տեսք: Ենթադրելով, որ դուք կանոնավոր կերպով օգտագործում եք գեներատիվ AI, շատ ժամանակ հեշտ է հանգստանալ ճշմարտացի նյութեր տեսնելով: Այնուհետև դուք կարող եք հեշտությամբ խաբվել, երբ հորինված ինչ-որ բան ընկղմվում է այն բանի մեջտեղում, ինչը հակառակ դեպքում թվում է միանգամայն խելամիտ և փաստերով լի ստեղծած էսսեի մեջ:

Ահա թե ինչ է ասում TR-ն GPT-4-ի մասին.

• «GPT-4-ն ունի «հալյուցինացիաներ առաջացնելու», այսինքն՝ «որոշ աղբյուրների առնչությամբ անիմաստ կամ կեղծ բովանդակություն արտադրելու միտում»: Այս միտումը կարող է հատկապես վնասակար լինել, քանի որ մոդելները դառնում են ավելի համոզիչ և հավատալի, ինչը հանգեցնում է օգտատերերի կողմից դրանց նկատմամբ չափազանց մեծ վստահության: Հակադարձաբար, հալյուցինացիաները կարող են ավելի վտանգավոր դառնալ, քանի որ մոդելներն ավելի ճշմարտացի են դառնում, քանի որ օգտատերերը վստահություն են ձեռք բերում մոդելի նկատմամբ, երբ այն ապահովում է ճշմարիտ տեղեկատվություն այն ոլորտներում, որտեղ նրանք որոշակի ծանոթ են»:

Լավ նորությունն այն է, որ ջանքեր են գործադրվել և կարծես թե շարունակվում են՝ փորձելով նվազեցնել AI հալյուցինացիաների հավանականությունը GPT-4-ում: Նաև պնդում են, որ GPT-4-ը գերազանցում է GPT-3.5-ին՝ արհեստական ​​ինտելեկտի հալյուցինացիաները կանխելու առումով, չնայած պարզ է դառնում, որ դրանք դեռ տեղի կունենան:

Ահա այս TR-ն.

• «Ներքին գնահատումների դեպքում GPT-4-ի գործարկումը 19 տոկոսային կետով բարձր է մեր վերջին GPT-3.5 մոդելից՝ բաց տիրույթի հալյուցինացիաներից խուսափելու հարցում, և 29 տոկոսային կետով՝ փակ տիրույթի հալյուցինացիաներից խուսափելու դեպքում»:

Քննարկման այս հատվածն առայժմ փակելու համար, AI բոլոր արտադրողների գեներատիվ AI-ն բախվում է այս խնդիրներին: Ոչ ոք դա ինչ-որ կերպ չի բուժել: Եթե ​​դուք դժվարին արհեստական ​​ինտելեկտի խնդիրներ եք փնտրում, ես ձեզ կոչ եմ անում ցատկել այս ջրերը և օգնել: Շատ աշխատանք կա անելու։

Եզրափակում

Երբ բլոկբասթեր ֆիլմը որոշ ժամանակ առաջ է եղել և կինոթատրոններից տեղափոխվել է տնային հոսք, շատ մարդիկ, հավանաբար, տեսել են ֆիլմը կամ դրա մասին ինչ-որ բան գիտեն ուրիշներից, ովքեր տեսել են այն: Այնուհետև, երբ հայտարարվում է շարունակության մասին և նկարահանվում, սպասումները կարող են հասնել աստղաբաշխական մակարդակի:

Ջեյ Ջեյ Աբրամսը, որն այժմ լեգենդար կինոռեժիսորն է «Աստղային պատերազմներ» սերիալի մասերի և «Աստղային ճանապարհի» վերագործարկման համար, այսպես է ասել շարունակությունների մասին.

Pixar-ի համահիմնադիր Էդվին Քաթմուլը շարունակությունների մասին ասել է.

Եթե ​​դուք հետաքրքրված եք տեսնել ChatGPT-ի բլոկբաստերը, կարող եք հեշտությամբ գրանցվել: GPT-4-ի շարունակությունը մի փոքր ավելի բարդ է մուտք գործելու համար: Գիտակցե՛ք նաև, որ կան բազմաթիվ այլ ֆիլմեր, ինչպես նաև ստեղծող արհեստական ​​ինտելեկտի այլ հավելվածներ, այնպես որ կարող եք համոզվել, որ ձեր կինոյի (այսինքն՝ գեներատիվ AI) փորձը բազմազան է և կատարյալ:

Մեկ վերջին սթափեցնող նշում. Նախազգուշացե՛ք, որ բովանդակությունը, որին կարող եք հանդիպել, կարող է լինել PG13, R կամ նույնիսկ NC-17: Հաշվի առեք դա: