ხელოვნური ინტელექტით გენერირებული სურათები და საფრთხე, რომლის წინაშეც ვდგავართ
ფოტოების გაყალბება და მათი საშუალებით მანიპულირება სიახლე არ არის. ეს ფენომენი, ფაქტობრივად, იმდენი ხანია არსებობს, რაც ფოტოგრაფია.
ფოტოების გაყალბება და მათი საშუალებით მანიპულირება სიახლე არ არის. ეს ფენომენი, ფაქტობრივად, იმდენი ხანია არსებობს, რაც ფოტოგრაფია.
სტატია გამოქვეყნდა New York Times-ზე.
ახლა კი რეალობაც კი არ არის საჭირო იმისთვის, რომ ფოტოები ავთენტურს გავდეს — ხელოვნური ინტელექტი ამას ისეთ დონეზე აკეთებს, რომ ზოგჯერ ექსპერტებსაც უჭირთ პასუხის გაცემა კითხვაზე ნამდვილია თუ არა ფოტო.
ხელოვნური ინტელექტის სწრაფმა განვითარებამ საინტერესო ვითარება შექმნა — ტექნოლოგია, რომელიც ადამიანების მოსატყუებლად გამოიყენება ბევრად უფრო სწრაფად მიიწევს წინ, ვიდრე ტექნოლოგია, რომელსაც ხრიკების იდენტიფიცირება შეუძლია. ტექნოლოგიური კომპანიები, მკვლევრები, ფოტო სააგენტოები და ახალი ამბების ორგანიზაციები იბრძვიან, რომ ბალანსი აღადგინონ — ცდილობენ, შინაარსის წარმოშობისა და საკუთრების შესახებ სტანდარტები და რეგულაციები დაადგინონ.
წინსვლა დეზინფორმაციის გავრცელებას უწყობს ხელს და პოლიტიკური განხეთქილების გასაღვივებლადაც გამოიყენება. ავტორიტარულმა მთავრობებმა თავიანთი პოლიტიკური მიზნების მისაღწევად, ერთი შეხედვით, რეალისტური ახალი ამბების მაუწყებლები შექმნეს. გასულ თვეში, მრავალმა ადამიანმა მოიწონა სურათები, სადაც რომის პაპ ფრანცისკეს ბალენსიაგას ქურთუკი ეცვა მიუხედავად იმისა, რომ ეს მოვლენა არ მომხდარა. სურათები, პოპულარული გამოსახულების გენერატორის, Midjourney-ის გამოყენებით შეიქმნა.
მაშინ, როდესაც აშშ-ის ყოფილი პრეზიდენტი, დონალდ ჯ. ტრამპი მანჰეტენის რაიონულ პროკურატურაში იმყოფებოდა, Reddit-ზე ხელოვნური ინტელექტის მიერ გენერირებული სურათები გამოჩნდა, სადაც მსახიობი ბილ მიურეი, თეთრ სახლში პრეზიდენტის კუთვნილ ადგილზე იჯდა.
კიდევ ერთი სურათი, რომელშიც ამერიკული დროშების ფონზე ტრამპია ნაჩვენები, Twitter-ზე სწრაფად გავრცელდა, თუმცა წარწერით, რომ ეს ნამდვილი ფოტო არ იყო.
ექსპერტები შიშობენ, რომ ტექნოლოგიამ შეიძლება მედიის, მთავრობისა და საზოგადოების მიმართ ნდობის დაკარგვა გამოიწვიოს. თუ ეს ყველაფერი შესაძლებელია — როგორ დავიჯეროთ რასაც ვხედავთ?
«ინსტრუმენტები გაუმჯობესდება, გაიაფდება და დადგება დღე, როცა ინტერნეტში ვერაფერს დაიჯერებთ». — თქვა Blackbird.AI-ის აღმასრულებელმა დირექტორმა, ვასილ ხალედმა, რომელიც კლიენტებს დეზინფორმაციასთან ბრძოლაში ეხმარება.
ხელოვნური ინტელექტი პრაქტიკულად ნებისმიერს აძლევს საშუალებას რთული ნამუშევრები შექმას — ისეთი, როგორიც ახლა ნიუ-იორკში, გაგოსიანის სამხატვრო გალერეაშია გამოფენილი. დაწერეთ შესაბამისი ტექსტი და ტექნოლოგია სურათს შექმნის — ამისთვის სპეციალური უნარები საჭირო არ არის.
ხშირად, არის მინიშნებები, რომ ვირუსული სურათები ხელოვნური ინტელექტის მიერ შეიქმნა და ის რეალურ ცხოვრებაში არავის გადაუღია — მდიდრულად გამოწყობილ პაპს სათვალეები ეკეთა, რომელიც თითქოს ლოყაში იზილებოდა. ამასთან ერთად, AI-ის ინსტრუმენტები ხშირად გაუგებარ ტექტს აწარმოებენ. აი ზოგიერთი მაგალითი:
თუმცა, ტექნოლოგიის სწრაფი წინსვლა ამ ხარვეზებსაც აღმოფხრის. Midjourney-ის უახლეს ვერსიას, რომელიც გასულ თვეში გამოვიდა, შეუძლია რეალისტური ხელები შექმნას. ეს ფანტასტიკაა, რომელიც ადრეული ვიზუალიზაციის ხელსაწყოებისთვის მიუღწეველი იყო.
რამდენიმე დღით ადრე, სანამ ტრამპი ნიუ-იორკში სისხლის სამართლის პასუხისგებაში მიეცემოდა, სოციალურ ქსელში მისი «დაპატიმრების» სურათები გავრცელდა. ისინი, ბრიტანელმა ჟურნალისტმა და Bellingcat-ის დამფუძნებელმა, ელიოტ ჰიგინსმა შექმნა. მან Midjourney გამოიყენა, რათა ყოფილი პრეზიდენტის დაპატიმრება, სასამართლო პროცესი, ნარინჯისფერ კომბინიზონში გამოწყობა და კანალიზაციის დახმარებით გაქცევა აესახა. მან სურათები Twitter-ზე გამოაქვეყნა და პოპულარობა მალევე მოიპოვა.
სურათები ვინმეს მოტყუებისთვის არ შექმნილა. პირიქით, ჰიგინსს ინსტრუმენტის სიმძლავრეზე ყურადღების გამახვილება სურდა.
მისი თქმით, Midjourney-ის სურათებმა, სახის ამოცნობის პროგრამებში მოხვედრა შეძლეს, რომლებსაც Bellingcat ვინაობის გადასამოწმებლად იყენებს. როგორც წესი, რუსების ამოსაცნობად, რომლებმაც დანაშაული ჩაიდინეს. ძნელი წარმოსადგენი არ არის, რომ მთავრობები ან მათი მტრების შევიწროების ან დისკრედიტაციის მიზნით სურათებს ამზადებენ.
Midjourney საქმეს უფრო სერიოზულად მიუდგა. მან სურათების გავრცელების შემდეგ ჰიგინსის ანგარიში ახსნა-განმარტების გარეშე შეაჩერა. კომპანიამ კომენტარის თხოვნას არ უპასუხა.
გენერაციული სურათები ახალი ამბების ორგანიზაციების ან რისკისადმი მიდრეკილი სხვა ადამიანების მიერ ხშირად ადვილად ამოიცნობა — ყოველ შემთხვევაში, ჯერჯერობით.
მიუხედავად ამისა, საფონდო ფოტო კომპანიებმა, სამთავრობო მარეგულირებლებმა და მუსიკალური ინდუსტრიის სავაჭრო ჯგუფებმა საკუთარი კონტენტის დაცვაზე ზრუნვა დაიწყეს. თუმცა ტექნოლოგიის სიმძლავრე მათ აფერხებს.
ზოგიერთმა გამოსახულების გენერატორებმა ნახატებიც კი გაამრავლეს — უილ სმიტი მუშტების მაკარონს ჭამს — რომლებსაც ისეთი კომპანიები იყენებენ, როგორიცაა Getty Images ან Shutterstock.
თებერვალში, აშშ-ის საავტორო ოფისმა ხელოვნურად შექმნილი სურათების საავტორო უფლებების შესახებ მსჯელობა დაიწყო, როდესაც კრისტინა კაშტანოვას მიერ დაწერილ 18 გვერდიან კომიქსს განიხილავდა, რომელიც Midjourney-ის დახმარებით შეიქმნა. საბოლოოდ, მთავრობის ადმინისტრატორმა კრისტინას საავტორო უფლებები ტექსტზე, მაგრამ არა გამოსახულებაზე, მისცა.
«Midjourney-ის მომხმარებლებს არ აქვთ საკმარისი კონტროლი გენერირებულ სურათებზე, ამიტომ შექმინილი სურათები მატერიალურ ქონებად ვერ ჩაითვლება». — განმარტა ოფისმა.
პრესის ფოტოგრაფების ეროვნული ასოციაციის გენერალურმა მრჩეველმა, მიკი ჰ. ოსტერრეიჩერმა განაცხადა, რომ ფოტოგრაფები რთულ სიტუაციაში არიან. ნიუსრუმები კონტენტის ავთენტიფიკაციისთვის იბრძვიან. სოციალური მედიის მომხმარებლები ეტიკეტებს, რომლებიც ხელოვნურად წარმოქმნილ სურათებზე მიანიშნებს, აიგნორებენ და ურჩევნიათ, დაიჯერონ, რომ რასაც ხედავენ ნამდვილი და რეალურია.
გენერაციული AI-მ შეიძლება ასევე ყალბი ვიდეოების წარმოებაც გაამარტივოს. ინტერნეტში გამოჩნდა ვიდეო, სადაც ავტორი და AI ექსპერტი, ნინა შიკი ჩანს, რომელიც განმარტავს, თუ როგორ ქმნიდა ტექნოლოგია «სამყაროს, სადაც ჩრდილები შეცდომით ნამდვილ არსებად იქცევიან». შიკს სახე შეეცვალა, როცა კამერამ უკან დაიხია და მის ადგილას ორი სხეული გამოჩნდა.
ვიდეოში განმარტებულია, რომ deepფake შიკის თანხმობით, ჰოლანდიურმა კომპანია Revel.ai-მა და კალიფორნიულმა — Truepic-მა შექმნეს, რომლებიც გენერაციულ ხელოვნურ ინტელექტს იკვლევენ.
კომპანიებმა თავიანთი ვიდეოს, რომელშიც ბეჭედია ასახული, «პირველი ციფრულად გამჭვირვალე ფეიკი» უწოდეს. მონაცემები კრიპტოგრაფიულად ფაილშია დალუქული.
Truepic Coalition for Content Provenance and Authenticity-ის პროექტია, რომელიც კომპანიების Adobe-ს, Intel-ისა და Microsoft-ის გაერთიანებით, ციფრულ მედიაში უკეთ გასარკვევად შეიქმნა. ჩიპების მწარმოებელმა, Nvidia-მ განაცხადა, რომ იგი Getty-სთან თანამშრომლობს, პასუხისმგებლიანი AI-ის გაწვრთნაში დაეხმაროს.
იმავე დღეს, Adobe-მა გამოსახულების გენერირების საკუთარი პროდუქტი, Firefly წარადგინა, რომელიც მხოლოდ იმ სურათების გამოყენებით იწვრთნება, რომლებიც ლიცენზირებულია. კომპანიის ნდობის მთავარმა ოფიცერმა, დანა რაომ თავის ბლოგში თქვა, რომ ინსტრუმენტი კონტენტის სერთიფიკატებს ავტომატურად დაამატებს.
2 თვის წინ, მოდელმა, კრისი ტეიგენმა დატვიტა, რომ მას პაპის ფაფუკი ქურთუკი ნამდვილი ეგონა და აღნიშნა, რომ ტექნოლოგია მას აშინებს.
MidJourney — AI ხელოვნება, რომელმაც ქართული მედია და სოციალური ქსელები მოიცვა
MidJourney — AI ხელოვნება, რომელმაც ქართული მედია და სოციალური ქსელები მოიცვა
ქვიზი — შეგიძლიათ, განასხვაოთ ცხოველების AI-თი შექმნილი ფოტოები რეალურისგან?
ქვიზი — შეგიძლიათ, განასხვაოთ ცხოველების AI-თი შექმნილი ფოტოები რეალურისგან?
Sony-ის ფოტოკონკურსის გამარჯვებულმა ჯილდოზე უარი თქვა — ფოტოები AI-ით იყო შექმნილი
Sony-ის ფოტოკონკურსის გამარჯვებულმა ჯილდოზე უარი თქვა — ფოტოები AI-ით იყო შექმნილი
