ჩვენ ვაკანსიების სერვისი გავუშვით: გამოაქვეყნეთ ვაკანსიები და მიიღეთ უკუკავშირი!

ხელოვნური ინტელექტით გენერირებული სურათები და საფრთხე, რომლის წინაშეც ვდგავართ

ფოტოების გაყალბება და მათი საშუალებით მანიპულირება სიახლე არ არის. ეს ფენომენი, ფაქტობრივად, იმდენი ხანია არსებობს, რაც ფოტოგრაფია.

კომენტარის დატოვება
ხელოვნური ინტელექტით გენერირებული სურათები და საფრთხე, რომლის წინაშეც ვდგავართ

ფოტოების გაყალბება და მათი საშუალებით მანიპულირება სიახლე არ არის. ეს ფენომენი, ფაქტობრივად, იმდენი ხანია არსებობს, რაც ფოტოგრაფია.

სტატია გამოქვეყნდა New York Times-ზე.

ახლა კი რეალობაც კი არ არის საჭირო იმისთვის, რომ ფოტოები ავთენტურს გავდეს — ხელოვნური ინტელექტი ამას ისეთ დონეზე აკეთებს, რომ ზოგჯერ ექსპერტებსაც უჭირთ პასუხის გაცემა კითხვაზე ნამდვილია თუ არა ფოტო.

ხელოვნური ინტელექტის სწრაფმა განვითარებამ საინტერესო ვითარება შექმნა — ტექნოლოგია, რომელიც ადამიანების მოსატყუებლად გამოიყენება ბევრად უფრო სწრაფად მიიწევს წინ, ვიდრე ტექნოლოგია, რომელსაც ხრიკების იდენტიფიცირება შეუძლია. ტექნოლოგიური კომპანიები, მკვლევრები, ფოტო სააგენტოები და ახალი ამბების ორგანიზაციები იბრძვიან, რომ ბალანსი აღადგინონ —  ცდილობენ, შინაარსის წარმოშობისა და საკუთრების შესახებ სტანდარტები და რეგულაციები დაადგინონ.

წინსვლა დეზინფორმაციის გავრცელებას უწყობს ხელს და პოლიტიკური განხეთქილების გასაღვივებლადაც გამოიყენება. ავტორიტარულმა მთავრობებმა თავიანთი პოლიტიკური მიზნების მისაღწევად, ერთი შეხედვით, რეალისტური ახალი ამბების მაუწყებლები შექმნეს. გასულ თვეში, მრავალმა ადამიანმა მოიწონა სურათები, სადაც რომის პაპ ფრანცისკეს ბალენსიაგას ქურთუკი ეცვა მიუხედავად იმისა, რომ ეს მოვლენა არ მომხდარა. სურათები, პოპულარული გამოსახულების გენერატორის, Midjourney-ის გამოყენებით შეიქმნა.

მაშინ, როდესაც აშშ-ის ყოფილი პრეზიდენტი, დონალდ ჯ. ტრამპი მანჰეტენის რაიონულ პროკურატურაში იმყოფებოდა, Reddit-ზე ხელოვნური ინტელექტის მიერ გენერირებული სურათები გამოჩნდა, სადაც მსახიობი ბილ მიურეი, თეთრ სახლში პრეზიდენტის კუთვნილ ადგილზე იჯდა.

კიდევ ერთი სურათი, რომელშიც ამერიკული დროშების ფონზე ტრამპია ნაჩვენები, Twitter-ზე სწრაფად გავრცელდა, თუმცა წარწერით, რომ ეს ნამდვილი ფოტო არ იყო.

ექსპერტები შიშობენ, რომ ტექნოლოგიამ შეიძლება მედიის, მთავრობისა და საზოგადოების მიმართ ნდობის დაკარგვა გამოიწვიოს. თუ ეს ყველაფერი შესაძლებელია — როგორ დავიჯეროთ რასაც ვხედავთ?

«ინსტრუმენტები გაუმჯობესდება, გაიაფდება და დადგება დღე, როცა ინტერნეტში ვერაფერს დაიჯერებთ». —  თქვა Blackbird.AI-ის აღმასრულებელმა დირექტორმა, ვასილ ხალედმა, რომელიც კლიენტებს  დეზინფორმაციასთან ბრძოლაში ეხმარება.

ხელოვნური ინტელექტი პრაქტიკულად ნებისმიერს აძლევს საშუალებას რთული ნამუშევრები შექმას — ისეთი, როგორიც ახლა ნიუ-იორკში, გაგოსიანის სამხატვრო გალერეაშია გამოფენილი. დაწერეთ შესაბამისი ტექსტი და ტექნოლოგია სურათს შექმნის — ამისთვის სპეციალური უნარები საჭირო არ არის.

ხშირად, არის მინიშნებები, რომ ვირუსული სურათები ხელოვნური ინტელექტის მიერ შეიქმნა და ის რეალურ ცხოვრებაში არავის გადაუღია — მდიდრულად გამოწყობილ პაპს სათვალეები ეკეთა, რომელიც თითქოს ლოყაში იზილებოდა. ამასთან ერთად, AI-ის ინსტრუმენტები ხშირად გაუგებარ ტექტს აწარმოებენ. აი ზოგიერთი მაგალითი:

თუმცა, ტექნოლოგიის სწრაფი წინსვლა ამ ხარვეზებსაც აღმოფხრის. Midjourney-ის უახლეს ვერსიას, რომელიც გასულ თვეში გამოვიდა, შეუძლია რეალისტური ხელები შექმნას. ეს ფანტასტიკაა, რომელიც ადრეული ვიზუალიზაციის ხელსაწყოებისთვის მიუღწეველი იყო.

რამდენიმე დღით ადრე, სანამ ტრამპი ნიუ-იორკში სისხლის სამართლის პასუხისგებაში მიეცემოდა, სოციალურ ქსელში მისი «დაპატიმრების» სურათები გავრცელდა. ისინი, ბრიტანელმა ჟურნალისტმა და Bellingcat-ის დამფუძნებელმა, ელიოტ ჰიგინსმა შექმნა. მან Midjourney გამოიყენა, რათა ყოფილი პრეზიდენტის დაპატიმრება, სასამართლო პროცესი, ნარინჯისფერ კომბინიზონში გამოწყობა და კანალიზაციის დახმარებით გაქცევა აესახა. მან სურათები Twitter-ზე გამოაქვეყნა და პოპულარობა მალევე მოიპოვა.

სურათები ვინმეს მოტყუებისთვის არ შექმნილა. პირიქით, ჰიგინსს ინსტრუმენტის სიმძლავრეზე ყურადღების გამახვილება სურდა. 

მისი თქმით, Midjourney-ის სურათებმა, სახის ამოცნობის პროგრამებში მოხვედრა შეძლეს, რომლებსაც Bellingcat ვინაობის გადასამოწმებლად იყენებს.  როგორც წესი, რუსების ამოსაცნობად, რომლებმაც დანაშაული ჩაიდინეს. ძნელი წარმოსადგენი არ არის, რომ მთავრობები ან მათი მტრების შევიწროების ან დისკრედიტაციის მიზნით სურათებს ამზადებენ.

Midjourney საქმეს უფრო სერიოზულად მიუდგა. მან სურათების გავრცელების შემდეგ ჰიგინსის ანგარიში ახსნა-განმარტების გარეშე შეაჩერა. კომპანიამ კომენტარის თხოვნას არ უპასუხა.

გენერაციული სურათები ახალი ამბების ორგანიზაციების ან რისკისადმი მიდრეკილი სხვა ადამიანების მიერ ხშირად ადვილად ამოიცნობა  — ყოველ შემთხვევაში, ჯერჯერობით.

მიუხედავად ამისა, საფონდო ფოტო კომპანიებმა, სამთავრობო მარეგულირებლებმა და მუსიკალური ინდუსტრიის სავაჭრო ჯგუფებმა საკუთარი კონტენტის დაცვაზე ზრუნვა დაიწყეს. თუმცა ტექნოლოგიის სიმძლავრე მათ აფერხებს.

ზოგიერთმა გამოსახულების გენერატორებმა ნახატებიც კი გაამრავლეს — უილ სმიტი მუშტების მაკარონს ჭამს — რომლებსაც ისეთი კომპანიები იყენებენ, როგორიცაა Getty Images ან Shutterstock.

კრისტიან ერიკსენის გენერირებული ფოტო

თებერვალში, აშშ-ის საავტორო ოფისმა ხელოვნურად შექმნილი სურათების საავტორო უფლებების შესახებ მსჯელობა დაიწყო, როდესაც კრისტინა კაშტანოვას მიერ დაწერილ 18 გვერდიან კომიქსს განიხილავდა, რომელიც Midjourney-ის დახმარებით შეიქმნა. საბოლოოდ, მთავრობის ადმინისტრატორმა კრისტინას საავტორო უფლებები ტექსტზე, მაგრამ არა გამოსახულებაზე, მისცა.

«Midjourney-ის მომხმარებლებს არ აქვთ საკმარისი კონტროლი გენერირებულ სურათებზე, ამიტომ შექმინილი სურათები მატერიალურ ქონებად ვერ ჩაითვლება». — განმარტა ოფისმა.

პრესის ფოტოგრაფების ეროვნული ასოციაციის გენერალურმა მრჩეველმა, მიკი ჰ. ოსტერრეიჩერმა განაცხადა, რომ ფოტოგრაფები რთულ სიტუაციაში არიან. ნიუსრუმები კონტენტის ავთენტიფიკაციისთვის იბრძვიან. სოციალური მედიის მომხმარებლები ეტიკეტებს, რომლებიც ხელოვნურად წარმოქმნილ სურათებზე მიანიშნებს, აიგნორებენ და ურჩევნიათ, დაიჯერონ, რომ რასაც ხედავენ ნამდვილი და რეალურია.

გენერაციული AI-მ შეიძლება ასევე ყალბი ვიდეოების წარმოებაც გაამარტივოს. ინტერნეტში გამოჩნდა ვიდეო, სადაც ავტორი და AI ექსპერტი, ნინა შიკი ჩანს, რომელიც განმარტავს, თუ როგორ ქმნიდა ტექნოლოგია «სამყაროს, სადაც ჩრდილები შეცდომით ნამდვილ არსებად იქცევიან». შიკს სახე შეეცვალა, როცა კამერამ უკან დაიხია და მის ადგილას ორი სხეული გამოჩნდა.

ვიდეოში განმარტებულია, რომ deepფake შიკის თანხმობით, ჰოლანდიურმა კომპანია Revel.ai-მა და კალიფორნიულმა — Truepic-მა შექმნეს, რომლებიც გენერაციულ ხელოვნურ ინტელექტს იკვლევენ.

კომპანიებმა თავიანთი ვიდეოს, რომელშიც ბეჭედია ასახული, «პირველი ციფრულად გამჭვირვალე ფეიკი» უწოდეს. მონაცემები კრიპტოგრაფიულად ფაილშია დალუქული.

Truepic Coalition for Content Provenance and Authenticity-ის პროექტია, რომელიც კომპანიების Adobe-ს, Intel-ისა და Microsoft-ის გაერთიანებით, ციფრულ მედიაში უკეთ გასარკვევად  შეიქმნა. ჩიპების მწარმოებელმა, Nvidia-მ განაცხადა,  რომ იგი Getty-სთან თანამშრომლობს, პასუხისმგებლიანი AI-ის გაწვრთნაში დაეხმაროს.

იმავე დღეს, Adobe-მა გამოსახულების გენერირების საკუთარი პროდუქტი, Firefly წარადგინა, რომელიც მხოლოდ იმ სურათების გამოყენებით იწვრთნება, რომლებიც ლიცენზირებულია. კომპანიის ნდობის მთავარმა ოფიცერმა, დანა რაომ თავის ბლოგში თქვა, რომ ინსტრუმენტი კონტენტის სერთიფიკატებს ავტომატურად დაამატებს.

2 თვის წინ, მოდელმა, კრისი ტეიგენმა დატვიტა, რომ მას პაპის ფაფუკი ქურთუკი ნამდვილი ეგონა და აღნიშნა, რომ ტექნოლოგია მას აშინებს.

MidJourney - AI ხელოვნება რომელმაც ქართული მედია და სოციალური ქსელები მოიცვა
MidJourney — AI ხელოვნება, რომელმაც ქართული მედია და სოციალური ქსელები მოიცვა
თემის მიხედვით
MidJourney — AI ხელოვნება, რომელმაც ქართული მედია და სოციალური ქსელები მოიცვა
ქვიზი — შეგიძლიათ განასხვაოთ ცხოველების AI-თი შექმნილი ფოტოები რეალურისგან?
ქვიზი — შეგიძლიათ, განასხვაოთ ცხოველების AI-თი შექმნილი ფოტოები რეალურისგან?
თემის მიხედვით
ქვიზი — შეგიძლიათ, განასხვაოთ ცხოველების AI-თი შექმნილი ფოტოები რეალურისგან?
Sony-ის ფოტოკონკურსის გამარჯვებულმა ჯილდოზე უარი თქვა — ფოტოები AI-ით იყო შექმნილი
Sony-ის ფოტოკონკურსის გამარჯვებულმა ჯილდოზე უარი თქვა — ფოტოები AI-ით იყო შექმნილი
თემის მიხედვით
Sony-ის ფოტოკონკურსის გამარჯვებულმა ჯილდოზე უარი თქვა — ფოტოები AI-ით იყო შექმნილი


ასევე წაიკითხეთ
როგორ შეიძლება, ხელოვნურმა ინტელექტმა შეცვალოს LGBTQIA+ ადვოკატირება
როგორ შეიძლება, ხელოვნურმა ინტელექტმა შეცვალოს LGBTQIA+ ადვოკატირება
როგორ შეიძლება, ხელოვნურმა ინტელექტმა შეცვალოს LGBTQIA+ ადვოკატირება
ახალი AI Comes Out of the Closet — «AI კარადიდან გამოდის» სისტემა მიზნად ისახავს ხელოვნური ინტელექტისა და LGBTQIA+ მხარდაჭერის შერწყმას.  ავტორი: დევიდ სვინი, MIT
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
დღეს, 21 მაისს ევროპულმა საბჭომ მიიღო ხელოვნური ინტელექტის აქტი — კანონი, რომელიც «მიზნად ისახავს ხელოვნური ინტელექტის წესების ჰარმონიზაციას». ევროპული საბჭო აცხადებს, რომ აქტი მიჰყვება რისკებზე დაფუძნებულ მიდგომას — რაც უფრო მაღალია საზოგადოებისთვის ზიანის მიყენების რისკი, მით უფრო მკაცრია წესები. ეს არის პირველი კანონმდებლობა მსოფლიოში, რომელსაც შეუძლია, დააწესოს ხელოვნური ინტელექტის რეგულირების გლობალური სტანდარტი.
განხილვა
კომენტარები ჯერ არაა.