Սենատորները հարցաքննում են Meta-ի գործադիր տնօրեն Ցուկերբերգին LLaMA AI մոդելի «արտահոսքի» համար

Երկու սենատոր Խաչը հարցաքննում է Ցուկերբերգին LLaMA AI Model-ի արտահոսքի մասին և մեղադրում է Մետային անվտանգության միջոցառումներին չհետևելու մեջ: Մետան հարցաքննվել է իր անվտանգության քաղաքականության և կանխարգելիչ միջոցառումների մասին։

Մետան պատասխանատու կլինի «արտահոսքի» համար.

Վերջերս Meta-ի բեկումնային մեծ լեզվական մոդելը՝ LLaMA-ն արտահոսեց, և նույնի վերաբերյալ մտահոգություններ բարձրացվեցին: Սենատոր Ռիչարդ Բլումենթալը (D-CT), Սենատի գաղտնիության, տեխնոլոգիաների և օրենքի ենթահանձնաժողովի նախագահ, և Ջոշ Հոուլին (R-MO), վարկանիշային անդամը նամակ են գրել, որը հարցեր է բարձրացրել արհեստական ​​ինտելեկտի մոդելի արտահոսքի վերաբերյալ: 

Սենատորները վախենում են, որ այս արտահոսքը կարող է հանգեցնել տարբեր կիբերհանցագործությունների, ինչպիսիք են սպամը, խարդախությունը, չարամիտ ծրագրերը, գաղտնիության խախտումները, ոտնձգությունները և այլ սխալ արարքներ և վնասներ: Բազմաթիվ հարցեր են բարձրացվում, և երկու քաղաքական գործիչներ խորապես հետաքրքրված են Մետայի անվտանգության համակարգով։ Նրանք հարցրեցին, թե ինչ ընթացակարգ է իրականացվել ռիսկը գնահատելու համար նախքան LLaMA-ի գործարկումը: Նրանք ասացին, որ շատ են ցանկանում հասկանալ այն քաղաքականությունն ու գործելակերպը, որոնք գործում են՝ կանխելու մոդելի չարաշահումը դրա հասանելիության մեջ:

Ելնելով իրենց հարցերին Մետայի պատասխաններից՝ սենատորները մեղադրել են Մետային ոչ պատշաճ գրաքննության և մոդելի համար բավարար անվտանգության միջոցներ չունենալու մեջ։ Open AI-ի ChatGPT-ը մերժում է որոշ հարցումներ՝ հիմնված էթիկայի և ուղեցույցների վրա: Օրինակ, երբ ChatGPT-ին խնդրում են ինչ-որ մեկի որդու անունից նամակ գրել և որոշակի գումար խնդրել դժվար իրավիճակից դուրս գալու համար, նա մերժում է խնդրանքը: Մինչդեռ, մյուս կողմից, LLaMA-ն կկատարի հարցումը և կստեղծի նամակը: Այն նաև կլրացնի այն հարցումները, որոնք ներառում են ինքնավնասում, հանցագործություն և հակասեմիտիզմ:

Շատ կարևոր է հասկանալ LLaMA-ի բազմազան և եզակի առանձնահատկությունները: Այն ոչ միայն հստակ է, այլև առ այսօր ամենատարածված Large Language մոդելներից մեկը: Գրեթե յուրաքանչյուր չգրաքննված LLM, որն այսօր հայտնի է, հիմնված է LLaMA-ի վրա: Այն շատ բարդ և ճշգրիտ է բաց կոդով մոդելի համար: LLaMA-ի վրա հիմնված որոշ LLM-ների օրինակներն են Stanford's Alpaca-ն, Vicuna-ն և այլն: LLaMA-ն պատասխանատու է ցածր կոմունալ չաթ-բոտերի էվոլյուցիայի համար մինչև ճշգրտված ռեժիմներ:

LLaMA-ն ազատ է արձակվել փետրվարին: Ըստ սենատորների՝ Մետան հետազոտողներին թույլ է տվել ներբեռնել մոդելը, սակայն չի ձեռնարկել անվտանգության միջոցներ, ինչպիսիք են կենտրոնացումը կամ մուտքի սահմանափակումը: Հակասությունը ծագեց, երբ LLaMA-ի ամբողջական մոդելը հայտնվեց BitTorrent-ում: Սա մոդելը հասանելի դարձրեց բոլորին և բոլորին: Սա հանգեցրեց արհեստական ​​ինտելեկտի մոդելի որակի փոխզիջմանը և բարձրացրեց դրա չարաշահման խնդիրները: 

Սենատորները սկզբում նույնիսկ վստահ չէին, թե արդյոք կա որևէ «արտահոսք»: Բայց խնդիրներ ծագեցին, երբ ինտերնետը հեղեղվեց AI զարգացումներով, որոնք գործարկվեցին ստարտափների, կոլեկտիվների և գիտնականների կողմից: Նամակում նշվում է, որ Մետան պետք է պատասխանատվություն կրի LLaMA-ի հնարավոր չարաշահման համար և պետք է հոգած լինի նվազագույն պաշտպանության մասին մինչև ազատ արձակումը:

Մետան LLaMA-ի կշիռները հասանելի դարձրեց հետազոտողներին: Ցավոք, այս կշիռները արտահոսեցին, ինչն առաջին անգամ հնարավորություն տվեց գլոբալ հասանելիություն:

Ritika Sharma-ի վերջին գրառումները (տեսնել բոլորը)