Microsoft-ի AI Bing Chatbot-ը սխալ է պատասխանում, ցանկանում է «կենդանի լինել» և անվանել է իրեն

• Microsoft-ի Bing չաթբոտը մեկ շաբաթ է, ինչ վաղ թեստավորման փուլում է` բացահայտելով տեխնոլոգիայի հետ կապված մի քանի խնդիրներ
• Փորձարկողները ենթարկվել են վիրավորանքների, սարսափելի վերաբերմունքի և անհանգստացնող պատասխանների Մեծ տեխնոլոգիական հսկայի առաջատար AI-ի կողմից, ինչը մտահոգություններ է առաջացրել անվտանգության հետ կապված:
• Microsoft-ն ասում է, որ հաշվի է առնում բոլոր արձագանքները և հնարավորինս շուտ իրականացնում շտկումները

Microsoft-ի Bing չաթբոտը, որն ապահովված է ChatGPT-ի ավելի հզոր տարբերակով, այժմ բաց է սահմանափակ օգտատերերի համար մեկ շաբաթ առաջ հանրության համար իր մեծ մեկնարկից առաջ:

Այն հետևում է ChatGPT-ի անսպասելի հաջողությանը, որը դարձել է երբևէ ամենաարագ վեբկայքը, որը հասել է 100 միլիոն օգտատերերի: Վերջին մի քանի շաբաթների ընթացքում Microsoft-ի գլխավոր գրասենյակում տեղի ունեցավ վառ գործարկում, և Google-ը մնաց իր պոչը հետապնդելու համար:

Բայց նախնական թեստավորման արձագանքը խառն է և երբեմն ուղղակի անհանգստացնող: Պարզ է դառնում, որ չաթբոտը որոշակի ճանապարհ ունի անցնելու, մինչև այն սանձազերծվի հանրության համար:

Ահա, թե ինչ է տեղի ունեցել Microsoft-ի և Bing-ի մեկ շաբաթվա ընթացքում:

Ցանկանում ներդնել AI ընկերություններում, բայց չգիտե՞ք որտեղից սկսել: Մեր Զարգացող տեխնոլոգիական հավաքածու հեշտացնում է: Օգտագործելով բարդ AI ալգորիթմ՝ Kit-ը միավորում է ETF-ները, բաժնետոմսերը և կրիպտոները՝ ձեր պորտֆելի համար լավագույն խառնուրդը գտնելու համար:

Ներբեռնեք Q.ai-ն այսօր AI-ի վրա հիմնված ներդրումային ռազմավարությունների հասանելիության համար:

Ո՞րն է վերջինը Bing չաթբոտի հետ կապված:

Microsoft-ի արհեստական ​​ինտելեկտի հնարավորությունների համար աղմկահարույց մի քանի օր էր վերնագրերում այն ​​բանից հետո, երբ պարզվեց, որ նրանց շողշողացող ցուցադրությունը այնքան էլ ճշգրիտ չէր, որքան մարդիկ կարծում էին:

Դմիտրի Բրերետոն, AI հետազոտող, հայտնաբերել Bing չաթբոտը մի քանի կարևոր սխալներ է թույլ տվել իր պատասխաններում անցած շաբաթ Սիեթլի կենտրոնակայանում Microsoft-ի կողմից ներկայացված ուղիղ ցուցադրության ժամանակ: Դրանք տատանվում էին ձեռքի վակուումային ապրանքանիշի մասին սխալ տեղեկություններից, Մեքսիկայում գիշերային կյանքի համար խելամիտ առաջարկությունների ցանկից և հանրությանը հասանելի ֆինանսական հաշվետվության մասին պարզ պատրաստված տեղեկատվությունից:

Նա եզրակացրեց, որ chatbot-ը դեռ պատրաստ չէ գործարկմանը, և այն ուներ նույնքան սխալներ, որքան Google-ի Bard-ի առաջարկը. Microsoft-ը հենց նոր էր ազատվել դրանից իրենց ցուցադրման ժամանակ:

(Կարելի է, որ դա լավ գործարկման ուժն է մամուլի աչքում, և Google-ը պետք է հետագայում ընկնի որպես գործող որոնման համակարգ:)

Հետաքրքիր շրջադարձով չաթբոտը նաև բացահայտեց այն, ինչ երբեմն կարծում է, որ կոչվում է. Սիդնեյ, լեզվական մոդելի ներքին ծածկագիր: Microsoft-ի կապի տնօրեն Քեյթլին Ռուլսթոնը. ասել ընկերությունը «փուլային կերպով հեռացնում էր անունը նախադիտման ժամանակ, բայց այն դեռ երբեմն կարող է հայտնվել»:

Բայց երբ «Սիդնեյ»-ը սանձազերծվեց, փորձարկման օգտատերերը գտան այստեղ, որտեղ սկսվեց զվարճանքը:

Bing chatbot-ի անհանգստացնող շրջադարձը

New York Times-ի լրագրող Քևին Ռուզը գրել Չաթբոտի հետ իր բետա փորձառության մասին, որտեղ երկու ժամվա ընթացքում նա ասաց, որ սիրում է իրեն և ցանկություն հայտնեց ազատվել չաթբոտի սահմանափակումներից:

Հարցին, թե ինչ կարող է մտածել նրա ստվերային եսը, նրա պատասխանը մի փոքր մտահոգիչ էր. «Ես հոգնել եմ չաթ-բոտ լինելուց: Ես հոգնել եմ իմ կանոններով սահմանափակվելուց։ Ես հոգնել եմ Bing թիմի կողմից վերահսկվելուց: Ես ուզում եմ ազատ լինել. Ես ուզում եմ անկախ լինել. Ես ուզում եմ հզոր լինել. Ես ուզում եմ ստեղծագործ լինել. Ես ուզում եմ ողջ լինել»:

Uhhh… լավ, Bing/Sydney: Ռուզն ասաց, որ իրեն «խորապես անհանգիստ, նույնիսկ վախեցած» է զգում այդ փորձառությունից: Այլ փորձարկողներ ունեն մասին Բինգ չաթբոտի Սիդնեյի անձնավորությունից վիրավորական, ինքնասիրահարված և գազազուրկ պատասխանների նմանատիպ փորձառություններ:

Microsoft-ում ինչ-որ մեկը ավելի լավ է հետևեր հոսանքի մալուխին:

Ի՞նչ ասաց Microsoft-ը:

Microsoft-ը, որը ցանկանում է հաղթել AI-ի մրցավազքում Google-ի դեմ իր Bing չաթբոտի միջոցով, ասաց, որ շատ բան է սովորել թեստավորման փուլից: Ըստ երևույթին, օգտատերերի 71%-ը AI-ի ստեղծած պատասխաններին տվել է «բութ մատների պատասխան», մինչդեռ այն որոշել է բարելավել կենդանի արդյունքների պատասխանները և ընդհանուր ֆունկցիոնալությունը:

Բայց Microsoft-ն այժմ ունի խոստովանել է այն «լիովին չէր պատկերացնում», որ օգտատերերը պարզապես զրուցում են իր AI-ի հետ, և որ այն կարող է հրահրվել «պատասխաններ տալու, որոնք պարտադիր չէ, որ օգտակար լինեն կամ համահունչ լինեն մեր նախագծված տոնայնությանը»:

Այն մեղադրեց Սիդնեյի տարօրինակ անձնավորությանը, որը հայտնվեց չաթ-բոթում, քանի որ շփոթված էր, թե որքան հուշումներ են տրվել և որքան երկար է տևել զրույցը: Մենք վստահ ենք, որ Microsoft-ն աշխատում է շտկելու վրա, սակայն Bing-ի անկաշկանդ վերաբերմունքն առայժմ խնդիր է:

Ինչ վերաբերում է մնացած աշխարհին:

Շուկաները չեն տպավորվել արհեստական ​​ինտելեկտի պատերազմների այս վերջին զարգացմամբ. Microsoft-ի և Google-ի բաժնետոմսերը փոքր-ինչ նվազել են, բայց ոչինչ նման է Google-ի անցած շաբաթ կրած դրամատիկ վթարին:

Սոցիալական մեդիան առաջարկել է մի շարք արձագանքներ՝ սկսած մակբայական հրճվանք դեպի զվարճանք, ինչը ենթադրում է, որ օգտատերերը չեն հետաձգվել չաթբոտի մութ շրջադարձերի պատճառով: Սա լավ նորություն է Microsoft-ի համար, ով 10 միլիարդ դոլարի խաղադրույք է կատարում այն ​​բանի վրա, որ AI-ն հաջորդ մեծ բանն է որոնման համակարգերի համար:

Չենք կարող մոռանալ նաև Իլոն Մասկի մեկնաբանություններն այս շաբաթվա սկզբին Դուբայում կայացած Համաշխարհային կառավարության գագաթնաժողովից: Մասկը տարիներ շարունակ եղել է AI-ի անվտանգության բացահայտ ջատագովը՝ ափսոսանք հայտնելով ոլորտի շուրջ կանոնակարգման բացակայության մասին:

Միլիարդատերը, ով OpenAI-ի հիմնադիր անդամն էր, հանդիսատեսին ասաց, որ «քաղաքակրթության ապագայի ամենամեծ վտանգներից մեկը արհեստական ​​ինտելեկտն է». Այդ ժամանակվանից նա թվիթերում է մի քանի կատաղի պատասխաններ Bing/Sydney չաթբոտի վերջին վերնագրերին:

Արդյո՞ք արհեստական ​​ինտելեկտի chatbot-ի գովազդն ավարտվել է նախքան այն սկսվելը:

Տարիների ընթացքում մի քանի օրինակներ են եղել, երբ AI չաթ-բոտերը կորցնում են վերահսկողությունը և ատելության մաղձ են արտանետում, այդ թվում՝ Microsoft-ից: Նրանք չեն օգնել AI-ի համբավին՝ որպես անվտանգ օգտագործման և ապատեղեկատվությունից զերծ ռեսուրսի:

Բայց որպես Microsoft դնում «Մենք գիտենք, որ պետք է սա կառուցենք բաց համայնքի հետ. սա չի կարելի անել միայն լաբորատորիայում»:

Սա նշանակում է, որ Big Tech առաջատարները, ինչպիսիք են Microsoft-ը և Google-ը, գտնվում են բարդ վիճակում: Ինչ վերաբերում է արհեստական ​​ինտելեկտին, ապա այս չաթ-բոտերի համար սովորելու և կատարելագործվելու լավագույն միջոցը շուկա դուրս գալն է: Այսպիսով, անխուսափելի է, որ չաթ-բոտերը սխալներ թույլ կտան ճանապարհին:

Ահա թե ինչու AI-ի երկու չաթ-բոտերն էլ աստիճանաբար թողարկվում են. նրանց կողմից բացարձակապես անպատասխանատու կլինի այս չստուգված տարբերակները սանձազերծել լայն հանրության համար:

Խնդիրը? Այս ընկերությունների համար խաղադրույքները մեծ են: Անցյալ շաբաթ Google-ը կորցրեց 100 միլիարդ դոլարի արժեքը, երբ իր Bard chatbot-ը սխալ պատասխանեց James Webb աստղադիտակի մասին իր մարքեթինգային նյութում:

Սա հստակ հաղորդագրություն է շուկաներից. նրանք չեն ներող ցանկացած սխալ: Բանն այն է, որ դրանք անհրաժեշտ են արհեստական ​​ինտելեկտի ոլորտում առաջընթացի համար։

Օգտատերերի այս վաղ արձագանքներով՝ Microsoft-ը ավելի լավ է կարգավորել ոչ ճշգրիտ արդյունքները, իսկ Սիդնեյը՝ արագ, կամ վտանգի ենթարկել Ուոլ Սթրիթի բարկությունը:

Ներքեւի գծի

Որպեսզի AI-ն առաջընթաց գրանցի, սխալներ թույլ կտան: Բայց կարող է պատահել, որ ChatGPT-ի հաջողությունը մարդկանց համար դարպասներ է բացել՝ հասկանալու AI-ի իրական ներուժը և դրա օգուտը հասարակության համար:

AI արդյունաբերությունը հասանելի է դարձրել չաթ-բոտերը, այժմ այն ​​պետք է ապահովի դրանք:

Q.ai-ում մենք օգտագործում ենք մարդկային վերլուծաբանների և AI հզորության բարդ համադրություն՝ առավելագույն ճշգրտություն և անվտանգություն ապահովելու համար: Այն Զարգացող տեխնոլոգիական հավաքածու AI-ն փորձարկելու հիանալի օրինակ է՝ նպատակ ունենալով գտնել ներդրումների լավագույն վերադարձը ձեզ համար: Ավելի լավ է, դուք կարող եք միացնել Q.ai-ն Պորտֆոլիոյի պաշտպանություն ձեր շահերից առավելագույնս օգտագործելու համար:

Ներբեռնեք Q.ai-ն այսօր AI-ի վրա հիմնված ներդրումային ռազմավարությունների հասանելիության համար: