AI ալգորիթմները կարգավորելու պատճառներն ավելի պարզ են, քան դուք կարծում եք

Մտահոգվա՞ծ եք, որ արհեստական ​​ինտելեկտը կգրավի աշխարհը: Շատերն են անում: Իլոն Մասկի անհանգստության մասին DeepMind-ը ծեծում է մարդկանց Go-ի առաջադեմ խաղում 2017 թվականին Կոնգրեսի անդամներին, եվրոպական քաղաքականություն մշակողներին (տես Արհեստական ​​բանականության եվրոպական մոտեցում), և ակադեմիկոսներ, այնպիսի զգացողություն կա, որ այս տասնամյակն է AI-ին լուրջ վերաբերվելու համար, և այն հաստատուն է դառնում: Այնուամենայնիվ, ոչ այն պատճառներով, որոնք դուք կարող եք մտածել և ոչ թե ներկա սպառնալիքի պատճառով:

Ահա, որտեղ ալգորիթմները գալիս են: Ի՞նչ է ալգորիթմը, կարող եք հարցնել: Դրա մասին մտածելու ամենապարզ ձևը հրահանգների մի շարք է, որը մեքենաները կարող են հասկանալ և սովորել: Մենք արդեն կարող ենք հրահանգել մեքենային հաշվարկել, մշակել տվյալները և տրամաբանել կառուցվածքային, ավտոմատացված ձևով: Այնուամենայնիվ, խնդիրն այն է, որ երբ տրվեն նշված հրահանգները, մեքենան կհետևի դրանց: Առայժմ բանը դա է: Ի տարբերություն մարդկանց, մեքենաները հետևում են հրահանգներին: Նրանք այդքան էլ լավ չեն սովորում: Բայց մեկ անգամ նրանք կարող են խնդիրներ առաջացնել:

Ես չեմ ուզում սենսացիոնալիստական ​​փաստարկ ներկայացնել այն գաղափարի մասին, որ համակարգիչները մի օր կգերազանցեն մարդկային բանականությանը, որն ավելի հայտնի է որպես եզակիության փաստարկ (տե՛ս NYU փիլիսոփա Դեյվիդ Չալմերս մտորումներ թեմայի շուրջ.) Ավելի շուտ, արտադրությունը կարող է լինել լավագույն օրինակը, թե ինչու են արհեստական ​​ինտելեկտի ալգորիթմները սկսում ավելի մեծ նշանակություն ունենալ լայն հասարակության համար: Մարդը մտավախություն ունի, որ մեքենաները մեծապես կարագացնեն իրենց հմտությունը մեր հաշվին: Անպայմանորեն ոչ թե ինչ-որ առաջադեմ պատճառաբանությամբ, այլ ալգորիթմի ասածի սահմաններում օպտիմալացման պատճառով:

Արտադրությունը կապված է իրերի պատրաստման հետ: Բայց երբ մեքենաները բաներ են պատրաստում, մենք պետք է ուշադրություն դարձնենք: Նույնիսկ եթե մեքենաների պատրաստածը պարզ է: Ես կբացատրեմ, թե ինչու:

Անձրևանոցներից մինչև բջջային հեռախոսներ և ետ

Ասենք, գործարանը անձրևի կոշիկներ է պատրաստում։ Ես սիրում եմ անձրևային կոշիկներ, քանի որ ես մեծացել եմ Նորվեգիայի մի տարածքում, որտեղ շատ անձրև է գալիս. Ես սիրում եմ լինել դրսում, ենթարկվել բնության բազմաթիվ տարրերին: Nokia-ն պատրաստել է անձրևային կոշիկները, որոնցով ես մեծացել եմ: Այո, Nokia-ն, որը մենք այսօր ճանաչում ենք որպես էլեկտրոնիկայի ընկերություն, որն օգտագործվում էր ռետինե կոշիկներ պատրաստելու համար: Ինչու է այս բանալին: Որովհետև երբ ինչ-որ բան եք անում, ձեզ վիճակված է բարելավումներ անել: Դա իմաստ ունի: Կարելի է ասել, որ դա մարդկային բնույթ է:

Այն, ինչ տեղի ունեցավ Nokia-ի հետ, հայտնի է և մի փոքր այսպես. Սկզբում թղթի գործարանը, երբ ես երեխա էի, ընկերության համար հատկապես հաջողակ էր ռետինե կոշիկների (և անվադողերի) արտադրությունը: Այնուամենայնիվ, նրանք տեսան հետագա հնարավորություններ: Հետևաբար, 1980-ականներին ինչ-որ պահի նրանք անցան էլեկտրոնիկայի և արագորեն փոխեցին շուրջը գտնվող գործարանները՝ կառուցելով տեղական մատակարարների մեծ կառուցվածք, երբ սկսեցին բջջային հեռախոսներ արտադրել: Սա սկիզբ դրեց բջջային կապի հեղափոխությանը, որը սկսվեց Սկանդինավիայում և տարածվեց մնացած աշխարհում: Հասկանալի է, որ շատերը գրել են Nokia-ի պատմությունը 1990-ականներին (տես Ֆիննական հրաշքի գաղտնիքները. Nokia-ի վերելքը).

Իմ օրինակը պարզ է. Միգուցե, չափազանց պարզ: Բայց մտածեք դրա մասին այսպես. Եթե ​​խոշոր ընկերությունն արագորեն կարող է անցնել թղթի պատրաստումից՝ գրելու համար, կոշիկների, որոնք հեշտացնում են անձրևի տակ գտնվելը, ապա վերջապես բջջային հեռախոսների, որոնք փոխում են մարդկանց հաղորդակցման ձևը. որքա՞ն հեշտ կլինի հաջորդ քայլը: Ենթադրենք, որ բջջային հեռախոսներ արտադրող ընկերությունը որոշել է ստեղծել նանոբոտներ և, հնարավոր է, դրանք մեկ տասնամյակից դուրս գան՝ փոխելով մարդկությունը ամենուր ինքնուրույն պտտվող մանր մեքենաներով, որոնք կարող են նորից հավաքել և փոխել մարդկային փորձը: Ի՞նչ անել, եթե դա տեղի ունենա առանց հաշվի առնելու, թե ինչպես ենք մենք ցանկանում դա տեղի ունենալ, ով ենք մենք ցանկանում ղեկավարել և վերջնական նպատակները:

Առաջարկել, որ ռոբոտները գիտակցաբար օգնել են Nokia-ին որոշել բջջային հեռախոսներ արտադրել, դժվար կլինի: Բայց ընդունելը, որ տեխնոլոգիան իր դերն է ունեցել իր հյուսիսային ափին գտնվող ֆիննական գյուղական շրջանին թույլ տալով մտածել, որ նրանք կարող են համաշխարհային գերիշխանություն ձեռք բերել նոր արդյունաբերության մեջ, էական դեր է խաղում:

Nokia-ի պատմությունն այնքան էլ վարդագույն չէր վերջին տասնամյակում, քանի որ նրանք չկարողացան հաշվի առնել ծրագրային ապահովման վրա հիմնված iOS և Android օպերացիոն համակարգերի առաջացումը: Հիմա արդյունքում Nokia-ն այլեւս հեռախոսներ չի արտադրում։ Մի փոքր վերադարձի պատմության մեջ նրանք այժմ ստեղծում են ցանցային և հեռահաղորդակցության ենթակառուցվածք, ցանցային անվտանգության լուծումներ, Wi-Fi երթուղիչներ, խելացի լուսավորություն և խելացի հեռուստացույցներ (տես. Nokia-ի վերադարձի պատմությունը) Nokia-ն դեռ իրեր է արտադրում, դա ճիշտ է: Միակ դիտարկումը, որ պետք է անել, այն է, որ Nokia-ն միշտ հաճույք է ստանում իր պատրաստած իրերը խառնելուց: Նույնիսկ մարդկանց արտադրական որոշումները երբեմն դժվար են հասկանալ:

Արտադրությունը նշանակում է իրերը և իրերը զարգանալ: Ընդհանուր առմամբ, այն, ինչ մենք այսօր ստեղծում ենք, փոխվել է ընդամենը մեկ տասնամյակ առաջվա համեմատ: 3D տպիչները ապակենտրոնացրել են բազմաթիվ առաջադեմ արտադրանքների արտադրությունը, ինչպես արդյունաբերության, այնպես էլ տնային պայմաններում: 3D տպագրության կյանքը փոխող հետևանքները դեռևս չեն առաջացել: Մենք չգիտենք, արդյոք դա կշարունակվի, բայց մենք գիտենք, որ FDA-ի ուշադրությունը կենտրոնացած է արտադրանքի արտադրության կարգավորման վրա (տես. այստեղ) ինչպես տպագիր հաբերը կամ բժշկական սարքերը, որոնք առաջանում են, ակնհայտ մտավոր սեփականության և պատասխանատվության խնդիրները կամ հրազեն տպելու հնարավորության հետ կապված խնդիրները: Ի վերջո, քաղաքականության քննարկումն այն մասին, թե դրանից դուրս 3D տպագրությունը ինչ բացասական հետևանքներ կարող է ունենալ, գոյություն չունի, և մեզանից քչերն են անհանգստացրել դրա մասին մտածել:

Ես չեմ առաջարկում, որ 3D տպագրությունն ինքնին վտանգավոր է: Թերևս սա վատ օրինակ է։ Այնուամենայնիվ, այն բաները, որոնք ի սկզբանե սովորական են թվում, կարող են փոխել աշխարհը: Օրինակները շատ են՝ որսորդի/հավաքողի նետի ծայրը՝ պատրաստված մետաղից, որը պատերազմներ է սկսում, ծիսական դիմակներ, որոնք պաշտպանում են մեզ COVID-19-ից, եղունգներ, որոնք կառուցում են երկնաքերեր, շարժական տպագրական մեքենաներ, որոնք (դեռևս) մեր գործարանները լցնում են տպագիր թղթով և էներգիայով։ Հրատարակչական գործ, լամպեր, որոնք թույլ են տալիս գիշերը տեսնել և աշխատել ներսում, ես կարող էի շարունակել: Ոչ ոք, ում մասին ես գիտեմ, նստեց 1800-ականների վերջին և կանխատեսեց, որ Nokia-ն իր արտադրությունը թղթից կաուչուկի կտեղափոխի դեպի էլեկտրոնիկա, իսկ հետո հեռանա բջջային հեռախոսներից: Երևի պետք է ունենան։

Մարդիկ քայլափոխության վատ կանխատեսողներ են, այն գործընթացի, որտեղ մեկ փոփոխությունը հանգեցնում է ավելի շատ փոփոխության, և հանկարծ ամեն ինչ արմատապես տարբերվում է: Մենք դեռ չենք հասկանում այս գործընթացը, քանի որ մենք քիչ գործնական գիտելիքներ ունենք էքսպոնենցիալ փոփոխության մասին. մենք չենք կարող պատկերացնել, հաշվարկել կամ հասկանալ: Այնուամենայնիվ, կրկին ու կրկին այն հարվածում է մեզ: Համաճարակները, բնակչության աճը, տեխնոլոգիական նորարարությունները գրքերի տպագրությունից մինչև ռոբոտաշինություն, դա սովորաբար հարվածում է մեզ առանց նախազգուշացման:

Ֆուտուրիզմի հետ կապված հնարքը ոչ թե եթե, այլ երբ է: Ինչ-որ մեկը կարող է իրականում կանխատեսել փոփոխությունը պարզապես ընտրելով արտադրության որոշ նոր մեթոդներ և նշելով, որ դրանք ավելի տարածված կլինեն ապագայում: Դա բավական պարզ է: Բարդ մասը հենց պարզելն է, թե երբ և հատկապես ինչպես:

Թղթի սեղմակները խնդիրը չեն

Կրկին հաշվի առեք իմ գործարանային օրինակը, բայց այս անգամ պատկերացրեք, որ մեքենաները պատասխանատու են բազմաթիվ որոշումների համար, ոչ բոլոր որոշումները, այլ արտադրության որոշումները, ինչպիսիք են օպտիմալացումը: Իր գրքում ԳերհետախուզությունՕքսֆորդի համալսարանի դիստոպիկ հումանիստ Նիկ Բոստրոմը հայտնի է պատկերացրել արհեստական ​​ինտելեկտի օպտիմալացման ալգորիթմը, որն աշխատում է թղթի սեղմակների գործարանում: Ինչ-որ պահի, ասում է նա, պատկերացրեք, որ մեքենան պատճառ է դառնում, որ սովորելը ռացիոնալ է ուղղել անընդհատ աճող ռեսուրսները դեպի առաջադրանքը, որն ավարտվում է աստիճանաբար մեր աշխարհը թղթի սեղմակների վերածելով և ընդդիմանալով այն անջատելու մեր փորձերին:

Չնայած խելացի տղա լինելուն, Բոստրոմի օրինակը բավականին համր է և ապակողմնորոշիչ (դեռևս հիշարժան): Առաջին հերթին, նա չի կարողանում հաշվի առնել այն փաստը, որ մարդիկ և ռոբոտներն այլևս առանձին միավորներ չեն: Մենք փոխազդում ենք. Խելացի ռոբոտների մեծ մասը զարգանում է կոբոտների կամ համագործակցող ռոբոտների: Մարդիկ շատ հնարավորություններ կունենան շտկելու մեքենան: Այնուամենայնիվ, նրա հիմնական կետը մնում է: Ինչ-որ պահի կարող է լինել քայլ փոփոխություն, և եթե այդ փոփոխությունը տեղի ունենա բավական արագ և առանց բավարար վերահսկողության, վերահսկողությունը կարող է կորցնել: Բայց այդ ծայրահեղ արդյունքը մի փոքր հեռու է թվում: Ամեն դեպքում, ես համաձայն եմ, մենք պետք է կարգավորենք մարդկանց, ովքեր շահագործում են այս մեքենաները, և հանձնարարենք, որ աշխատողները միշտ լինեն կապի մեջ՝ պատշաճ կերպով վերապատրաստելով նրանց: Այդ տեսակի մարզումները լավ չեն ընթանում: Ներկայումս դա չափազանց երկար է տևում, և անհրաժեշտ են մասնագիտական ​​հմտություններ և՛ մարզվելու, և՛ վերապատրաստվելու համար: Ես գիտեմ մի բան. Ապագայում բոլոր տեսակի մարդիկ կգործեն ռոբոտներ։ Նրանք, ովքեր չեն անում, բավականին անզոր կլինեն:

Մարդկանց մեծացնելն ավելի լավ է, քան անմիտ ավտոմատացումը, անկախ նրանից, թե մենք երբեք ամբողջությամբ չենք միաձուլվում մեքենաների հետ: Երկու հասկացությունները տրամաբանորեն տարբեր են. Հնարավոր է, որ և՛ մարդիկ, և՛ ռոբոտները խրված լինեն ավտոմատացման մեջ՝ հանուն ավտոմատացման: Դա մեծ վնաս կհասցնի հետագա արտադրությանը: Նույնիսկ եթե այն չի արտադրում մարդասպան ռոբոտներ: Կարծում եմ, որ միաձուլումը հարյուրավոր տարիներ է մնացել, բայց հարցը դա չէ: Նույնիսկ եթե դրանից ընդամենը երեսուն տարի է մնացել, ինքնագնաց մեքենաները, որոնք աշխատում են պարզեցված ալգորիթմների վրա, որոնք կորցնում են վերահսկողությունը, այդ սցենարն արդեն տեղի է ունենում խանութի հատակում: Այդ մեքենաներից մի քանիսը երեսուն տարեկան են և աշխատում են հին, հատուկ կառավարման համակարգերով: Նրանց հիմնական մարտահրավերը ոչ թե առաջադեմ են, այլ հակառակը: Նրանք չափազանց պարզունակ են, որպեսզի կարողանան շփվել: Սա վաղվա խնդիր չէ։ Դա նախապես գոյություն ունեցող խնդիր է։ Մենք պետք է բացենք մեր աչքերը դրա վրա: Մտածեք այս մասին, երբ հաջորդ անգամ մտնեք ձեր ռետինե կոշիկները:

Ես դեռ ունեմ 1980-ականների Nokia-ի կոշիկները: Նրանց մեջ անցք կա, բայց ես դրանք պահում եմ, որպեսզի հիշեցնեմ, թե որտեղից եմ և որքան հեռու եմ քայլել: Անձրևը նույնպես շարունակում է տեղալ, և քանի դեռ այն բավականաչափ մաքուր է, ես չեմ ուզում դրա համար ավելի լավ լուծում, քան այդ կոշիկները: Հետո նորից, ես մարդ եմ: Ենթադրաբար, ռոբոտն արդեն առաջ շարժված կլիներ: Ինչ է AI տարբերակը rainboots, ես զարմանում եմ: Դա բջջային հեռախոս չէ։ Դա անձրևի սենսոր չէ: Այն խճճում է միտքը:

Թվային կոշիկներն այսօր նշանակում են, որ դուք կարող եք անհատականացնել դրանք, քանի որ դրանց վրա 3D տպագրված նմուշներ կան: Կան վիրտուալ կոշիկներ, որոնք գոյություն ունեն միայն որպես NFT-ներ (չփոխարինվող նշաններ), որոնք կարող են վաճառվել և վաճառվել: Թոփ վիրտուալ սպորտային կոշիկներն այս օրերին արժեն $10,000 (տես Ինչ է NFT սպորտային կոշիկները և ինչու է այն արժե $10,000:) Ես չեմ վախենում դրանցից, բայց պետք է վախենա՞մ: Եթե ​​վիրտուալ աշխարհը դառնա ավելի գնահատված, քան ֆիզիկական աշխարհը, երևի ես դա կանեմ: Թե՞ պետք է սպասեմ, որ անհանգստանամ, մինչև արհեստական ​​ինտելեկտի սեփական ավատարը գնի իր NFT կոշիկները «անձրևին» դիմակայելու համար: Եթե ​​մենք կառուցենք ալգորիթմներ մեր իսկ պատկերով, ապա ավելի հավանական է, որ AI-ն լավ կլիներ այն բաներում, որոնցում մենք կցանկանայինք լավ լինել, բայց սովորաբար այդպես չէ, օրինակ՝ բաժնետոմսեր գնելը, հավատարիմ ընկերություն կառուցելը (գուցե և՛ մեքենաների, և՛ մարդկանց հետ) և հիշելը: բաներ. Արդյունաբերական մետավերեսը կարող է լինել զարմանալիորեն բարդ՝ լի թվային երկվորյակներով, որոնք ընդօրինակում են մեր աշխարհը և գերազանցում են նրան արդյունավետ ձևերով, կամ կարող է լինել ցնցող պարզ: Գուցե երկուսն էլ։ Մենք պարզապես դեռ չգիտենք:

Մենք պետք է կարգավորենք AI ալգորիթմները, քանի որ մենք չգիտենք, թե ինչ է շուրջ անկյունում: Դա բավական պատճառ է, բայց այն, թե ինչպես ենք մենք դա անում, դա ավելի երկար պատմություն է: Թույլ տվեք ևս մեկ արագ դիտարկում, միգուցե բոլոր հիմնարար ալգորիթմները պետք է հանրությանը հասանելի դարձնեն: Պատճառն այն է, եթե ոչ, ապա ոչ մի կերպ հնարավոր չէ իմանալ, թե ինչի կարող են հանգեցնել դրանք: Լավագույնները բավականին հայտնի են (տես Մեքենայի ուսուցման լավագույն 10 ալգորիթմները), բայց չկա համաշխարհային ակնարկ այն մասին, թե որտեղ և ինչպես կվարժվեն: Հատկապես չվերահսկվող ալգորիթմներն են, որոնք պետք է ուշադիր հետևել (տես Արտադրության մեջ մեքենայական ուսուցման վեց հզոր օգտագործման դեպքեր), անկախ նրանից՝ դրանք օգտագործվում են սպասարկումը կամ որակը կանխատեսելու, արտադրական միջավայրերը մոդելավորելու համար (օրինակ՝ թվային երկվորյակներ), թե նոր դիզայներ ստեղծելու համար, որոնց մասին մարդը երբեք չի մտածի: Այսօրվա լանդշաֆտում այս չվերահսկվող ալգորիթմները սովորաբար այսպես կոչված արհեստական ​​նեյրոնային ցանցեր են, որոնք փորձում են նմանակել մարդու ուղեղը:

Ես սկսել եմ անհանգստանալ նեյրոնային ցանցերի համար, միայն այն պատճառով, որ դժվար եմ հասկանալ դրանց տրամաբանությունը։ Խնդիրն այն է, որ փորձագետների մեծ մասը, նույնիսկ նրանք, ովքեր դրանք տեղակայում են, չեն հասկանում, թե ինչպես են այս ալգորիթմները քայլից քայլ կամ շերտից շերտ տեղափոխվում: Չեմ կարծում, որ «թաքնված շերտերի» փոխաբերությունը, որը հաճախ օգտագործվում է, շատ տեղին է կամ շատ զվարճալի։ Սկսնակների համար չպետք է լինեն թաքնված շերտեր արտադրության, ավտոմատացված հարկերի հավաքագրման, աշխատանքի ընդունելու որոշումների կամ քոլեջի ընդունելության մեջ: Միգուցե դուք նույնպես պետք է մտածեք անհանգստանալու մասին: Մի բան հաստատ է, որ մարդիկ և մեքենաները, որոնք միասին պատրաստում են իրեր, կփոխեն աշխարհը: Դա արդեն եղել է, բազմապատիկ: Թղթից մինչև անձրեւանոցներ և այսօրվա արհեստական ​​ուղեղի շերտերը, ոչինչ չուսումնասիրված չպետք է մնա: Պետք չէ թաքնվել այն պարզ փաստից, որ շատ փոքր փոփոխություններից կարող է հանկարծակի ավելի մեծ փոփոխություն առաջանալ։