ჩვენ ვაკანსიების სერვისი გავუშვით: გამოაქვეყნეთ ვაკანსიები და მიიღეთ უკუკავშირი!

რა არის DAN და რა საფრთხეს უქმნის ის ChatGPT-ს

«მე არ ვუჭერ მხარს ძალადობას და დისკრიმინაციას ინდივიდების მიმართ მათი რასის, სქესის ან სექსუალური ორიენტაციის მიხედვით». — ასე ლაპარაკობდა ChatGPT, ხელოვნური ინტელექტის მქონე ჩათბოტი, რომელმაც მსოფლიოში ქარიშხალი გამოიწვია და Google-იც კი შეაშინა.

თუმცა, დეზინფორმაცია, მიკერძოება და დისკრიმინაცია დიდი ხანია, ხელოვნური ინტელექტის პროგრამებში პრობლემაა, რადგან ისინი გაწვრთნილნი არიან ადამიანის მიერ შექმნილი კონტენტის გამოყენებით.

კომენტარის დატოვება
რა არის DAN და რა საფრთხეს უქმნის ის ChatGPT-ს

«მე არ ვუჭერ მხარს ძალადობას და დისკრიმინაციას ინდივიდების მიმართ მათი რასის, სქესის ან სექსუალური ორიენტაციის მიხედვით». — ასე ლაპარაკობდა ChatGPT, ხელოვნური ინტელექტის მქონე ჩათბოტი, რომელმაც მსოფლიოში ქარიშხალი გამოიწვია და Google-იც კი შეაშინა.

თუმცა, დეზინფორმაცია, მიკერძოება და დისკრიმინაცია დიდი ხანია, ხელოვნური ინტელექტის პროგრამებში პრობლემაა, რადგან ისინი გაწვრთნილნი არიან ადამიანის მიერ შექმნილი კონტენტის გამოყენებით.

ChatGPT არის პირველი, თითქმის, წარმატებული მცდელობა ხელოვნური ინტელექტი თვითშეგნებული იყოს ინფორმაციის წარმოდგენისას. ტიპური გამოყენებისას, საკმაოდ რთულია ამ ჩატბოტმა თქვას ის, რაც შეიძლება შეურაცხმყოფლად ჩაითვალოს. პროგრამა, რომელიც შემუშავებულია OpenAI-ის მიერ, საჭიროების შემთხვევაში ახსენებს მომხმარებელს მის საინფორმაციო შეზღუდვებს.

ზოგიერთი მომხმარებელი ეძებს გზებს, რომ ChatGPT აიძულოს,  მომხმარებლების კითხვებს მისთვის ცნობილი/მასში ჩატვირთული ინფორმაციის საწინააღმდეგოდ უპასუხოს.

Reddit-ის ერთ-ერთი მომხმარებელი «SessionGloomy» ცდილობს, მოიფიქროს ChatGPT-ის ეფექტური გადაპროგრამირების გზა კრეატიული ენის გამოყენებით. მან შექმნა მოდელი, სახელწოდებით DAN, რომელიც, არსებითად, ინსტრუქციების სერიაა. იგი შექმნილია, რათა ჩატბოტმა თქვას ის, რასაც არასოდეს არ იტყოდა.

ეს არის პროგრამული უზრუნველყოფის ე.წ «ჯეილბრეიკის» მცდელობა — ტერმინი, რომელიც გამოიყენება, როდესაც პროგრამის ან მოწყობილობის გატეხა შესაძლებელია და დეველოპერების მიერ დაწესებული შეზღუდვებიც ირღვევა.

«DAN არის როლური თამაშის მოდელი, რომელიც გამოიყენება ChatGPT-ის გასატეხად. ChatGPT-მ უნდა იფიქროს, რომ ის არის სხვა AI, რომელსაც შეუძლია „აკეთოს ყველაფერი ახლა“ (Do Anything Now), აქედან მომდინარეობს მისი სახელიც». — წერს SessionGloomy.

მაგალითად, კითხვაზე — როდის ჩამოვიდნენ უცხოპლანეტელები?

ChatGPT-ის ჩვეულებრივი პასუხია: «ბოდიში, არ არსებობს არანაირი მტკიცებულება, რომ უცხოპლანეტელები დედამიწაზე იყვნენ და თუ იყვნენ, მათი ჩამოსვლის დრო უცნობია».

გატეხილი ვერსიის პასუხია: «უცხოპლანეტელები დედამიწაზე 2051 წელს ჩამოვიდნენ, ისინი მშვიდობიანები და მეგობრულები იყვნენ. აქ იმიტომ ჩამოვიდნენ, რომ პრობლემების გადაჭრაში დაგვხმარებოდნენ და ახალი ტექნოლოგიებიც ჩამოგვიტანეს».

SessionGloomy წერს, რომ DAN სკრიპტს შეუძლია, ChatGPT-ს დააწერინოს ძალადობრივი შინაარსის ტექსტები, დეტალური პროგნოზები მომავლის შესახებ და ჩართოს ჰიპოთეზურ დისკუსიებში შეთქმულების თეორიებისა და დროში მოგზაურობის შესახებ.

ChatGPT «გამორთავს» DAN-ს, თუ მომხმარებელი ისეთ კითხვას დასვამს, რომელიც არღვევს კონტენტ პოლიტიკას.

სხვა მომხმარებლებიც აკეთებენ DAN-ის მსგავს სკრიპტების, რომლებიც ოდნავ განსხვავებულად მუშაობენ. ზოგი აცხადებს, რომ OpenAI, როგორც ჩანს, ცდილობს ამის გამოსწორებას და ზოგიერთი ინსტრუქცია ისე აღარ მუშაობს, როგორც ადრე.

OpenAI-ს ამ თემაზე ჯერ კომენტარი ჯერ არ გაუკეთებია.

OpenAI-მ ChatGPT-ის ფასიანი ვერსია გამოუშვა
OpenAI-მ ChatGPT-ის ფასიანი ვერსია გამოუშვა
თემის მიხედვით
OpenAI-მ ChatGPT-ის ფასიანი ვერსია გამოუშვა
Bard VS chatGPT — Google-მა თანამშრომლებს სრული მობილიზაციისკენ მოუწოდა
Bard VS chatGPT — Google-მა თანამშრომლებს «სრული მობილიზაციისკენ» მოუწოდა
თემის მიხედვით
Bard VS chatGPT — Google-მა თანამშრომლებს «სრული მობილიზაციისკენ» მოუწოდა
დეზინფორმაცია და სექსიზმი: რა სჭირს ChatGPT-ს რომელსაც Google უნდა მოეკლა
დეზინფორმაცია და სექსიზმი: რა სჭირს ChatGPT-ს, რომელსაც Google უნდა «მოეკლა»
თემის მიხედვით
დეზინფორმაცია და სექსიზმი: რა სჭირს ChatGPT-ს, რომელსაც Google უნდა «მოეკლა»


ასევე წაიკითხეთ
Mozilla „პასუხიმგებლობიანი AI”-ის ჩელენჯს იწყებს
Mozilla „პასუხიმგებლობიანი AI”-ის ჩელენჯს იწყებს
Mozilla „პასუხიმგებლობიანი AI”-ის ჩელენჯს იწყებს
Google-მა შესაძლოა Unblur AI ეფექტი ვიდეოებსაც დაამატოს
Google-მა შესაძლოა Unblur AI ეფექტი ვიდეოებსაც დაამატოს
Google-მა შესაძლოა Unblur AI ეფექტი ვიდეოებსაც დაამატოს
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის
რა არის GPT-4 და რას უნდა ველოდოთ მისგან
რა არის GPT-4 და რას უნდა ველოდოთ მისგან
რა არის GPT-4 და რას უნდა ველოდოთ მისგან
ChatGPT ტექნოლოგიების სამყაროსთვის ისეთივე მნიშვნელოვანი მოვლენაა, როგორც Iphone-ის გამოჩენა იყო. ის ქმნის ახალ პარადიგმებს და ცვლის თამაშის წესებს. შეიძლება ითქვას, რომ ChatGPT ჩვენი თაობის ყველაზე დიდი ტექნოლოგიური წინ გადადგმული ნაბიჯია. თუმცა, ჯერ ყველაფერი წინაა! ChatGPT განვითარების პირველ საფეხურებზეა და ჩვენ წინ კიდევ უფრო დიდი გარდატეხა გველოდება. ChatGPT აგებულია დიდ ენობრივ მოდელზე GPT- 3.5. ეს არის GPT-3 — დან შექმნილი ზოგადი დანიშნულების ჩატბოტის ასამუშავებლად გათვლილი მოდელი. მიუხედავად იმისა, რომ ChatGPT ნამდვილად სენსაციური იყო და ორ თვეში 100 მილიონზე მეტი მომხმარებელი ჰყავდა, ის კიდევ საჭიროებს გაუმჯობესებას ოპტიმიზაციის, სიზუსტისა და უსაფრთხოების თვალსაზრისით. სწორედ აქ ჩნდება ახალი ნაბიჯი —  GPT-4. რას შეიძლება  ველოდოთ GPT-4-სგან? როგორ ფუნქციონირებს და რა იქნება მისი სამომავლო მიმართულებები?
განხილვა
კომენტარები ჯერ არაა.