Համագործակցությունը զարգացնում է օպտիկական հաշվարկների վրա հիմնված ցածր էներգիայի, բարձր արագության AI-ի գործնական կիրառումը
ՏՈԿԻՈ – (ԲԻԶՆԵՍ ԼԱՐ)–#Techfor Good-NTT կորպորացիա (Նախագահ և գործադիր տնօրեն. Akira Shimada, «NTT») և Տոկիոյի համալսարան (Bunkyo-ku, Tokyo, President: Teruo Fujii) մշակել են նոր ուսուցման ալգորիթմ՝ ոգեշնչված ուղեղի տեղեկատվության մշակումից, որը հարմար է բազմաշերտ արհեստական նեյրոնային ցանցերի (DNN) համար՝ օգտագործելով անալոգային գործողություններ: Այս բեկումը կհանգեցնի էներգիայի սպառման և AI-ի հաշվարկման ժամանակի կրճատմանը: Այս զարգացման արդյունքները հրապարակվել են բրիտանական գիտական ամսագրում Բնություն Communications դեկտեմբերի 26-ինth.
Հետազոտողները ձեռք են բերել արդյունավետորեն իրականացվող օպտիկական DNN ուսուցման աշխարհում առաջին ցուցադրությունը՝ կիրառելով ալգորիթմը DNN-ի վրա, որն օգտագործում է օպտիկական անալոգային հաշվարկ, որն ակնկալվում է, որ թույլ կտա բարձր արագությամբ, ցածր էներգիայի մեքենայական ուսուցման սարքերը: Բացի այդ, նրանք հասել են աշխարհում ամենաբարձր արդյունավետության՝ բազմաշերտ արհեստական նեյրոնային ցանցի, որն օգտագործում է անալոգային գործողություններ:
Նախկինում մեծ բեռնվածության ուսուցման հաշվարկները կատարվում էին թվային հաշվարկներով, սակայն այս արդյունքը վկայում է, որ անալոգային հաշվարկների միջոցով հնարավոր է բարելավել ուսումնական մասի արդյունավետությունը։ Deep Neural Network (DNN) տեխնոլոգիայում կրկնվող նեյրոնային ցանցը, որը կոչվում է խորը ջրամբարային հաշվարկ, հաշվարկվում է՝ ենթադրելով օպտիկական իմպուլսը որպես նեյրոն և ոչ գծային օպտիկական օղակ՝ որպես ռեկուրսիվ կապերով նեյրոնային ցանց: Ելքային ազդանշանը նորից մուտքագրելով նույն օպտիկական միացում՝ ցանցն արհեստականորեն խորանում է։
DNN տեխնոլոգիան հնարավորություն է տալիս առաջադեմ արհեստական ինտելեկտին (AI), ինչպիսիք են մեքենայական թարգմանությունը, ինքնավար մեքենա վարելը և ռոբոտաշինությունը: Ներկայումս պահանջվող հզորությունը և հաշվարկման ժամանակը աճում է այնպիսի արագությամբ, որը գերազանցում է թվային համակարգիչների կատարողականի աճը: Ակնկալվում է, որ DNN տեխնոլոգիան, որն օգտագործում է անալոգային ազդանշանի հաշվարկներ (անալոգային գործողություններ), կլինի ուղեղի նեյրոնային ցանցի նման բարձր արդյունավետության և արագության հաշվարկների իրականացման մեթոդ: NTT-ի և Տոկիոյի համալսարանի համագործակցությունը մշակել է նոր ալգորիթմ, որը հարմար է DNN անալոգային գործողության համար, որը չի ենթադրում DNN-ում ներառված ուսուցման պարամետրերի ըմբռնում:
Առաջարկվող մեթոդը սովորում է՝ փոխելով ուսուցման պարամետրերը՝ հիմնված ցանցի վերջնական շերտի և ցանկալի ելքային ազդանշանի (սխալի ազդանշանի) սխալի ոչ գծային պատահական փոխակերպման վրա։ Այս հաշվարկը հեշտացնում է անալոգային հաշվարկների իրականացումը այնպիսի բաներում, ինչպիսիք են օպտիկական սխեմաները: Այն կարող է նաև օգտագործվել ոչ միայն որպես ֆիզիկական իրականացման մոդել, այլ նաև որպես առաջատար մոդել, որն օգտագործվում է այնպիսի ծրագրերում, ինչպիսիք են մեքենայական թարգմանությունը և տարբեր AI մոդելները, ներառյալ DNN մոդելը: Ակնկալվում է, որ այս հետազոտությունը կնպաստի արհեստական ինտելեկտի հաշվարկի հետ կապված առաջացող խնդիրների լուծմանը, ներառյալ էներգիայի սպառումը և հաշվարկման ժամանակի ավելացումը:
Ի լրումն այս փաստաթղթում առաջարկված մեթոդի կիրառելիությունը կոնկրետ խնդիրների նկատմամբ ուսումնասիրելուց, NTT-ը նաև կնպաստի օպտիկական սարքավորումների լայնածավալ և փոքր ինտեգրմանը, նպատակ ունենալով ստեղծել բարձր արագությամբ, ցածր էներգիայի օպտիկական հաշվողական հարթակ ապագա օպտիկական համակարգերի համար: ցանցեր։
Աջակցություն այս հետազոտությանը.
JST/CREST-ն աջակցել է այս հետազոտության արդյունքների մի մասին:
Ամսագրի հրապարակում.
Magazine. Բնություն Communications (Առցանց տարբերակ՝ դեկտեմբերի 26)
Հոդվածի վերնագիր. Ֆիզիկական խորը ուսուցում կենսաբանական ոգեշնչված ուսուցման մեթոդով. առանց գրադիենտի մոտեցում ֆիզիկական սարքավորումների համար
Հեղինակներ՝ Mitsumasa Nakajima, Katsuma Inoue, Kenji Tanaka, Yasuo Kuniyoshi, Toshikazu Hashimoto և Kohei Nakajima
Տերմինաբանության բացատրություն.
- Օպտիկական շղթա. շղթա, որտեղ սիլիցիումի կամ քվարցային օպտիկական ալիքատարները ինտեգրված են սիլիկոնային վաֆլի վրա՝ օգտագործելով էլեկտրոնային սխեմաների արտադրության տեխնոլոգիա: Հաղորդակցության մեջ օպտիկական հաղորդակցության ուղիների ճյուղավորումն ու միաձուլումը կատարվում են օպտիկական միջամտության, ալիքի երկարության մուլտիպլեքսավորման/դեմուլտիպլեքսավորման և այլնի միջոցով։
- Backpropagation (BP) մեթոդ. Ամենատարածված ուսուցման ալգորիթմը խորը ուսուցման մեջ: Ցանցում կշիռների (պարամետրերի) գրադիենտները ստացվում են սխալի ազդանշանը ետ տարածելիս, և կշիռները թարմացվում են այնպես, որ սխալը փոքրանա: Քանի որ հետտարածման գործընթացը պահանջում է ցանցային մոդելի քաշային մատրիցայի փոխադրում և ոչ գծային տարբերակում, դժվար է այն իրականացնել անալոգային սխեմաների վրա, ներառյալ կենդանի օրգանիզմի ուղեղը:
- Անալոգային հաշվարկ. համակարգիչ, որն արտահայտում է իրական արժեքներ
օգտագործելով ֆիզիկական մեծություններ, ինչպիսիք են լույսի ինտենսիվությունը և փուլը և մագնիսական պտույտների ուղղությունն ու ինտենսիվությունը, և կատարում է հաշվարկներ՝ փոխելով այդ ֆիզիկական մեծությունները՝ համաձայն ֆիզիկայի օրենքների: - Ուղղակի հետադարձ կապի հավասարեցում (DFA) մեթոդ. Յուրաքանչյուր շերտի սխալի ազդանշանի կեղծ հաշվարկի մեթոդ՝ վերջին շերտի սխալի ազդանշանի վրա ոչ գծային պատահական փոխակերպում կատարելու միջոցով: Քանի որ այն չի պահանջում ցանցի մոդելի դիֆերենցիալ տեղեկատվություն և կարող է հաշվարկվել միայն զուգահեռ պատահական փոխակերպմամբ, այն համատեղելի է անալոգային հաշվարկի հետ:
- Reservoir computing. Պարբերական նեյրոնային ցանցի տեսակ՝ թաքնված շերտում կրկնվող միացումներով: Այն բնութագրվում է միջանկյալ շերտում միացումների պատահական ամրագրմամբ, որը կոչվում է ջրամբարային շերտ: Խորը ջրամբարների հաշվարկում տեղեկատվության մշակումն իրականացվում է ջրամբարի շերտերը մի քանի շերտերում միացնելով:
NTT-ը և NTT-ի պատկերանշանը NIPPON TELEGRAPH AND TELEPHONE CORPORATION-ի և/կամ նրա դուստր ձեռնարկությունների գրանցված ապրանքանիշերն են կամ ապրանքային նշանները: Բոլոր այլ հղումներով ապրանքների անվանումները իրենց համապատասխան սեփականատերերի ապրանքանիշերն են: © 2023 NIPPON TELEGRAPH AND TELEPHONE CORPORATION
Կապ Մեզ Հետ
Սթիվեն Ռասել
NTT-ի համար
+ 1-804-362-7484
Աղբյուր՝ https://thenewscrypto.com/ntt-and-the-university-of-tokyo-develop-worlds-first-optical-computing-ai-using-an-algorithm-inspired-by-the-human-brain/