Իր առաջընթացին զուգահեռ՝ արհեստական ինտելեկտը (AI) գնալով զարգանում է, և այսպես կոչված «ինբրեդինգի» վտանգը գեներատիվ AI համակարգերում դառնում է վտանգ, որը վաղուց տարածված է մարդկանց և ընտանի կենդանիների պոպուլյացիաների համար:
Այս հոդվածը որոշակի լույս կսփռի գեներատիվ AI-ի լույսի ներքո ինբրիդինգի հայեցակարգի վրա և այն մասին, թե ինչպես կարող է ինբրիդինգը կապված լինել AI-ի կողմից ստեղծված բովանդակության ապագայի հետ:
Հասկանալով Generative AI Inbreeding Generative AI համակարգերը, ինչպիսիք են խոշոր լեզվական մոդելները (LLMs), հիմնականում վերապատրաստվում են համացանցում հասանելի տեքստային, տեսողական և աուդիո բովանդակության համապարփակ տվյալների վրա: Սկզբում տվյալների հավաքածուն հիմնականում ներառում էր մարդկանց կողմից պատրաստված իրեր, ինչպիսիք են գրականությունը, հոդվածները և արվեստի գործերը: Այնուամենայնիվ, գեներատիվ AI գործիքների աճով, ինտերնետում ավելի ու ավելի շատ բովանդակություն է գրվում հենց AI-ի կողմից:
Այս տեղաշարժը մտահոգություն է առաջացնում տվյալների հավաքածուների որակի և բազմազանության վերաբերյալ, որոնք օգտագործվում են ապագա AI համակարգերը վերապատրաստելու համար: AI-ի կողմից ստեղծված բովանդակության էվոլյուցիայի հետ մեկտեղ, ակնկալվում է, որ AI մոդելների շատ ապագա սերունդներ կսովորեն տվյալների հավաքածուներից, որոնք չեն ներկայացնում մարդու բովանդակությունը, այլ AI-ի կողմից ստեղծված նյութը:
Արհեստական ինտելեկտի գեներատիվ ինբրեդինգի հետևանքները բազմակողմանի են:
Ընդհակառակը, AI համակարգի կողմից ավելի շատ համասեռ տվյալների հավաքածուներից սովորելու շարունակությունը կարող է հանգեցնել AI-ի կողմից ստեղծված արդյունքի ստեղծագործականության և ինքնատիպության նվազմանը:
Եթե այս գործընթացը կրկնվում է, այսինքն՝ պատճենումը սերունդների ընթացքում հաջորդաբար, արդյունքի որակը նվազում է, և արդյունքները վտանգում են լինել ավելի քիչ գրավիչ աշխատանք և ավելի քիչ արտացոլող այն, ինչ մենք համարում ենք մարդու ստեղծագործական արդյունք: . Արհեստական ինտելեկտի կողմից ստեղծված բովանդակության աճով, որը վերապատրաստվում է ինբրեդային տվյալների հավաքածուների վրա, նման խնդիրները կարող են սրվել:
Եթե վերապատրաստման տվյալների հավաքածուները բավականաչափ բազմազան չեն, ապա մշակված AI համակարգերը կծառայեն միայն ամրապնդելու և մեծացնելու AI-ի կողմից ստեղծված բովանդակության մեջ առկա կողմնակալությունները, այդպիսով ավելի խաթարելով AI-ի կողմից ստեղծված բովանդակության վստահելի օգտագործումը որպես տեղեկատվության աղբյուր: Ավելին, վերապատրաստման տվյալների բազմազանության բացակայությունը կարող է սահմանափակել AI համակարգերի մշակման հնարավորությունը, որոնք կարող են ճիշտ հասկանալ և ներկայացնել մարդկային փորձառությունների և հեռանկարների լայն շրջանակը: Սա կարող է սահմանափակել առաջընթացը AI-ի տարբեր կիրառական ոլորտներում, ինչպիսիք են բնական լեզվի մշակումը, բովանդակության ստեղծումը և որոշումների կայացման համակարգերը:
Անդրադառնալով Generative AI Inbreeding-ի մարտահրավերին
Ամենից առաջ սա իսկական ռիսկ է, մասնավորապես, արհեստական ինտելեկտի գեներատիվ տեխնոլոգիաների սերտաճումը: Այնուամենայնիվ, այն պարտավորեցնում է հետազոտողներին, մշակողներին և նույնիսկ քաղաքականություն մշակողներին ակտիվորեն գործել՝ ապահովելով, որ տարբեր և ներկայացուցչական տվյալների շտեմարաններն օգտագործվում են որպես առաջնահերթություն AI համակարգի ուսուցման ընթացքում՝ ինտեգրելով մեխանիզմներ, որոնք կարող են հայտնաբերել և նվազեցնել: AI-ի կողմից ստեղծված բովանդակության կողմնակալությունը և արդյունավետ միջդիսցիպլինար համագործակցության ապահովումը՝ միաժամանակ անդրադառնալով և ապահովելով AI-ի կառուցման էթիկական և սոցիալական հետևանքների խնամքը:
Դրանք պետք է ավելի դյուրացնեն AI համակարգերի տեղակայման հարցում բացության և հաշվետվողականության անհրաժեշտությունը և պահանջեն, որ սահմանափակումների և կողմնակալության մասին տեղեկացվածությունը կիսվի AI-ի կողմից ստեղծված բովանդակության օգտատերերի հետ: Հետևաբար, բոլոր շահագրգիռ կողմերը կարող են ակտիվորեն ձգտել համագործակցել գեներատիվ AI-ի ուժն օգտագործելու համար՝ միաժամանակ մեղմացնելով արհեստական ինտելեկտի զարգացման մեջ ներդաշնակության հետ կապված ռիսկերը:
Գեներատիվ արհեստական ինտելեկտի մեջ ներդաշնակության հայեցակարգը ապագայի մեծ մարտահրավեր է AI համակարգերի զարգացման և տեղակայման համար: Սա կօգնի նրանց ապահովել, որ հասարակության համար տեխնոլոգիաների բարելավման պատասխանատու և էթիկական զարգացումն իրականացվի՝ հասկանալով գեներատիվ AI-ի ներդաշնակությունը արդյունավետորեն բարելավելու հետևանքները և ուղիները:
Աղբյուր՝ https://www.cryptopolitan.com/generative-ai-growing-in-ai-development/