«Մերկացնող» մեքենա․ Grok-ի շուրջ սկանդալը հասնում է դատարան

Արհեստական բանականության զարգացման ֆոնին նոր ու բավական վտանգավոր միտում է հայտնվել․ մարդկանց սովորական լուսանկարները հատուկ ծրագրերի միջոցով վերածվում են կեղծ մերկ կամ սեռականացված պատկերների՝ հաճախ առանց տվյալ մարդու համաձայնության։

Այս խնդրի ամենաաղմկահարույց օրինակներից մեկը դարձել է Իլոն Մասկի xAI ընկերության Grok համակարգը։ 2026-ի սկզբից միջազգային մամուլը բազմաթիվ դեպքեր է արձանագրել, երբ օգտատերերը Grok-ի միջոցով իրական մարդկանց լուսանկարները փորձել են վերափոխել սեռականացված պատկերների։ Reuters-ի փորձարկումները եւս ցույց էին տվել, որ համակարգը որոշ դեպքերում շարունակում էր նման պատկերներ ստեղծել նույնիսկ այն ժամանակ, երբ հստակ նշվում էր, որ պատկերված անձը համաձայնություն չի տվել։ Սկանդալը, սակայն, վաղուց դուրս է եկել սոցիալական ցանցերի սահմաններից։

GROK-Ի ԴԵՄ՝ ԱՐԴԵՆ ԴԱՏԱՐԱՆՈՒՄ

Հուլիսին բրիտանացի պատգամավոր Ջես Ասատոն հայց է ներկայացրել xAI-ի դեմ՝ պնդելով, որ Grok-ը իր լուսանկարների հիման վրա ստեղծել է կեղծ սեռականացված պատկերներ եւ տեսանյութ։ Նրա փաստաբանների պնդմամբ՝ խնդիրը միայն օգտատերերի չարաշահումը չէ, այլ նաեւ այն, թե ինչպես է համակարգը նախագծված եւ ինչ սահմանափակումներ է կիրառել։ xAI-ն հայտարարել է, որ այժմ արգելում է իրական մարդկանց առանց համաձայնության սեռականացված պատկերների ստեղծումը։

Իսկ օգոստոսի 1-ից Մինեսոտայում ուժի մեջ է մտել ԱՄՆ-ում առաջին օրենքը, որն ուղղակիորեն արգելում է այսպես կոչված «nudification» տեխնոլոգիան՝ արհեստական բանականությամբ իրական մարդու լուսանկարում այնպիսի ինտիմ մարմնի հատվածներ ստեղծելը, որոնք սկզբնական լուսանկարում չկան։ Օրենքի խախտման համար նախատեսված է մինչեւ 500 հազար դոլարի տուգանք։

Հենց այս օրենքի դեմ էլ xAI-ն դատական պայքար է սկսել՝ պնդելով, որ այն չափազանց լայն է եւ կարող է սահմանափակել նաեւ օրինական, ոչ վնասակար պատկերների ստեղծումը։ Մինեսոտայի իշխանությունները հակադարձում են, որ օրենքի նպատակը մարդկանց, հատկապես երեխաների, AI-ով ստեղծված սեռականացված կեղծ պատկերներից պաշտպանելն է։

ԽՆԴԻՐԸ ՄԻԱՅՆ GROK-Ը ՉԷ

AI-ով մարդկանց «մերկացնելու» գործիքների տարածումն արդեն ավելի լայն խնդիր է դարձել։ Օրերս WIRED-ը պարզել է, որ Meta-ի Facebook եւ Instagram հարթակներում գովազդվել է Kromix հավելվածը, որը գովազդում էր իրական մարդկանց հիմքով սեռականացված կեղծ պատկերներ ստեղծելու հնարավորությունը։ Հետաքննությունից հետո հավելվածը հեռացվել է Apple-ի App Store-ից։

Այս ամենի ֆոնին տեխնոլոգիական առաջընթացը նոր հարց է առաջադրում․ եթե նախկինում մարդու մերկ լուսանկարի տարածման համար անհրաժեշտ էր իրական լուսանկար ունենալ, ապա այսօր նման պատկեր կարելի է ստեղծել ընդամենը մի քանի հրահանգով։

Եվ հենց այստեղ է խնդրի ամենավտանգավոր կողմը՝ լուսանկարը կարող է կեղծ լինել, բայց դրա հետեւանքները՝ միանգամայն իրական։ Մարդու հեղինակությանը, ընտանիքին, աշխատանքին ու հոգեբանական վիճակին հասցված վնասը դրանից պակաս իրական չի դառնում։

Մինչ տեխնոլոգիական ընկերությունները խոստանում են նոր պաշտպանական մեխանիզմների մասին, աշխարհի տարբեր երկրներ արդեն փորձում են օրենքով հասնել այդ տեխնոլոգիաների հետեւից։ Իսկ Grok-ի շուրջ ընթացող դատական վեճերը կարող են որոշել, թե ապագայում ով է պատասխանատվություն կրելու՝ չարաշահող օգտատե՞րը, տեխնոլոգիական ընկերությո՞ւնը, թե՞ երկուսն էլ։

ՀՐԱՆՏ ՍԱՐԱՖՅԱՆ

Այս թեմայով Իլոն Մասկը հայտարարել է, որ վաղը գործարկվելու է Grok 3 չաթբոտը