ჩვენ ვაკანსიების სერვისი გავუშვით: გამოაქვეყნეთ ვაკანსიები და მიიღეთ უკუკავშირი!
გივი ცერაძემსოფლიო
28 თებერვალი 2023, 14:17
2023-02-28
“ბოდიში წინასწარ” - Snapchat მომხმარებლებს ჩატბოტის შესაძლო ხარვეზების შესახებ აფრთხილებს
27 თებერვალს Snapchat-მა ხელოვნურ ინტელექტზე მომუშავე ექსპერიმენტული სასაუბრო ჩატბოტის გამოსვლა დააანონსა. ჩატბოტი, სახელწოდებით My AI, ChatGPT-ის ტექნოლოგიით იქნება აღჭურვილი.
My AI ხელმისაწვდომი Snapchat±ის მომხმარებლებისთვის თვეში 3,99 დოლარად იქნება და მიმდინარე კვირაში გამოვა.
მომხმარებლებს AI ბოტის პერსონალიზირება მორგებული სახელის მიცემით შეეძლებათ. ხელოვნური ინტელექტის მოდელთან მიმოწერა კი შესაძლებელი რეგულარული, აქამდე არსებული ჩატის მსგავსი ინტერფეისით იქნება.
«გარდა იმისა, რომ მეგობრებსა და ოჯახის წევრებს ესაუბროთ, ვაპირებთ, საშუალება მოგცეთ, AI-სთან საუბარიც ყოველდღიურად შეძლოთ. ეს არის ჩვენი იდეა.», — განუცხადა Snap-ის აღმასრულებელმა დირექტორმა, ევან შპიგელმა The Verge-ს.
ცნობილია, რომ GPT-ით აღჭურვილი ჩატბოტები, როგორებიცაა ChatGPT და Microsoft-ის Bing, ხარვეზით მუშაობენ, ამიტომ Snapchat მომხმარებლებს ამის შესახებ აფრთხილებს და ბოდიშს წინასწარ უხდის.
«როგორც AI-ზე მომუშავე ყველა ჩატბოტი, My AI-იც „ჰალუცინაციებისკენ“ არის მიმართული და შეიძლება ხარვეზებით იმუშაოს. ბოდიშს წინასწარ გიხდით! My AI-სთან დაკავშირებული ყველა საუბარი შეინახება და ვეცდებით, პროდუქტი გავაუმჯობესოთ. გთხოვთ, My AI-ის საიდუმლო არ გაუზიაროთ და მის მოცემულ რჩევებსაც არ დაეყრდნოთ».
მანქანათმცოდნეობის მკვლევრებს შორის «ჰალუცინაცია» ტერმინია, რომელიც პროცესს აღწერს, როდესაც ხელოვნური ინტელექტის მოდელი არაზუსტ დასკვნებს იმ საგნის ან სიტუაციის შესახებ აკეთებს, რომელიც მისი სასწავლო მონაცემების კომპლექტში გათვალისწინებული არ არის.
მიუხედავად Snap-ის GPT ტექნოლოგიისადმი დამოკიდებულებისა, კომპანია ამბობს, რომ ახალი Snapchat ბოტი ჩამაგრებული მეგობრებთან საუბრის ზემოთ, აპლიკაციის ჩანართში იქნება და სხვადასხვა რჩევებს მოგცემთ.
«My AI დაბადების დღის საჩუქრის იდეებს მოგაწვდით, ლაშქრობის დაგეგმვაში დაგეხმარებათ. გრძელი შაბათ-კვირის განმავლობაში, შეგიძლიათ სადილის რეცეპტიც სთხოვოთ». — დაწერა კომპანიამ.
საინტერესოა, როგორ შეუძლია იმავე ბოტს, რომელსაც, როგორც კომპანია გვეუბნება, ბოლომდე არ უნდა ვენდოთ, ზუსტ და უსაფრთხო ლაშქრობის დაგეგმვაში დაგვეხმაროს. გენერაციული ხელოვნური ინტელექტის კრიტიკოსები თვლიან, რომ მსგავსი ჩატბოტები ფართო გამოყენებისთვის მზად არ არიან.
Snap-მა GPT მოდელი ისე გაწვრთნა, რომ სქესი, ძალადობა ან პოლიტიკური შეხედულებები არ განიხილოს. ეს შეზღუდვები განსაკუთრებით აუცილებელია მას შემდეგ, რაც Bing Chat-ში რასისტულ, ჰომოფობიურ თუ გენდერულ შეურაცხყოფებს შევხვდით.
მიუხედავად კომპანიის გაფრთხილებისა, საშიშროება მაინც არსებობს, რომ ადამიანებმა My AI-ის ნათქვამი დაიჯერონ. GPT მოდელების უაღრესად დამაჯერებელი ბუნება, რა თქმა უნდა, ამის თქმის საშუალებას გვაძლევს.