ჩვენ ვაკანსიების სერვისი გავუშვით: გამოაქვეყნეთ ვაკანსიები და მიიღეთ უკუკავშირი!

"გაუფილტრავი AI მოდელები დიდ პრობლემას ქმნიან" — სტენფორდი მოხსენებას აქვეყნებს

ხელოვნური ინტელექტის მდგომარეობის შესახებ მოხსენების დაწერა ქვიშით სახლის აშენებას ჰგავს: იმ დროისთვის, როდესაც გამოქვეყნებას დააჭერთ, მთელი ინდუსტრია თქვენს თვალწინ შეიცვლება. თუმცა, სტენფორდის 386 გვერდიან მოხსენებაში იმ მნიშვნელოვან მიღწევებსა და ტენდენციებსაც შევხვდებით, რომლებიც დღესაც აქტუალურია.

კომენტარის დატოვება
"გაუფილტრავი AI მოდელები დიდ პრობლემას ქმნიან" — სტენფორდი მოხსენებას აქვეყნებს

ხელოვნური ინტელექტის მდგომარეობის შესახებ მოხსენების დაწერა ქვიშით სახლის აშენებას ჰგავს: იმ დროისთვის, როდესაც გამოქვეყნებას დააჭერთ, მთელი ინდუსტრია თქვენს თვალწინ შეიცვლება. თუმცა, სტენფორდის 386 გვერდიან მოხსენებაში იმ მნიშვნელოვან მიღწევებსა და ტენდენციებსაც შევხვდებით, რომლებიც დღესაც აქტუალურია.

AI Index, ადამიანზე ორიენტირებული ხელოვნური ინტელექტის ინსტიტუტი, აკადემიურ და კერძო ინდუსტრიის ექსპერტებთან ერთად ამ საკითხზე ინფორმაციასა და პროგნოზებს აგროვებდა. ეს შეიძლება AI-ზე უახლესი მოსაზრება არ იყოს. თუმცა, სფეროს განვითარებისთვისა და უფრო მეტი ადამიანის გათვითცნობიერებისთვის, ცალსახად, მნიშვნელოვანია.

წლევანდელი მოხსენება მოდელების შესახებ ანალიზს, მათ შორის მათი გეოპოლიტიკისა და ტრენინგის ხარჯებს, AI სისტემების გარემოზე ზემოქმედებას, K-12 AI განათლებასა და ხელოვნურ ინტელექტთან დაკავშირებით საზოგადოებრივი აზრის ტენდენციებს მოიცავს. 

მოდით მოხსენებიდან მნიშვნელოვანი საკითხები ამოვიღოთ:

  • ბოლო ათწლეულის განმავლობაში, ხელოვნური ინტელექტის განვითარება აკადემიის ხელმძღვანელობიდან ინდუსტრიის ხელში გადავიდა.
  • ტრადიციული ტექნოლოგიით მოდელების ტესტირება რთულდება, ამიტომ შესაძლოა ახალი მიდგომების შემოტანა გახდეს საჭირო.
  • ხელოვნური ინტელექტის მომზადება და გამოყენება სულ უფრო მნიშვნელოვანი ხდება, მაგრამ ჩვენ ჯერ ბოლომდე ვერ ვხედავთ, რამდენად ეფექტური შეიძლება იყოს ის.
  • «AI ინციდენტებისა და დაპირისპირებების» რიცხვი 2012 წლის შემდეგ 26-ჯერ გაიზარდა, რაც, რეალურად, ბევრი არ არის.
  • AI-თან დაკავშირებული უნარები და სამუშაო განცხადებები იზრდება, მაგრამ არა ისე სწრაფად, როგორც თქვენ ფიქრობთ.
  • ინვესტიციები დროებით შეჩერდა, მაგრამ ეს ბოლო ათწლეულის განმავლობაში ასტრონომიული ზრდის შემდეგ.
  • ჩინელი, არაბი და ინდოელი რესპოდენტების 70%-ზე მეტი ფიქრობს, რომ AI-ს უფრო მეტი სარგებელი აქვს, ვიდრე ნაკლოვანება. ამერიკელები? — 35%.    

უფრო დეტალურად განვიხილოთ კვლევის მე-3 თავი — «ტექნიკური AI ეთიკა»

მიკერძოება და ტოქსიკურობა ძნელია შემცირდეს, მაგრამ ფაქტი ერთია, «გაუფილტრავი» მოდელები ძალიან დიდ პრობლემას ქმნიან. ინსტრუქციის tuning, რაც დამატებითი მოსამზადებელი ფენის დამატებას ნიშნავს, ამ პრობლემას ნაწილობრივ მოაგვარებს, თუმცა მოდელები სრულყოფილებისგან მაინც შორს იქნებიან.

«AI ინციდენტების» ზრდა ამ დიაგრამაზე საუკეთესოდ არის აღწერილი:

როგორც ხედავთ, ტენდენცია აღმავალია და ეს რიცხვი ChatGPT-ისა და სხვა დიდი ენობრივი მოდელების გამოსვლის შემდეგ გაიზარდა. შეგიძლიათ დარწმუნებულნი იყოთ, რომ 26-ჯერ ზრდა მხოლოდ დასაწყისია.

სხვათაშორის, მოდელების სამართლიანობისა და მიუკერძოებულობის გზაზე დაყენებამ, თავიდან შესაძლოა მცირე ქაოსი გამოიწვიოს:

მოხსენებაში აღნიშნულია, რომ ენის მოდელები, რომლებიც გარკვეულ სამართლიანობის კრიტერიუმებს იცავენ, როგორც წესი ბევრად მიკერძოებულები არიან. რატომ? ძნელი სათქმელია, მაგრამ ფაქტია, რომ ოპტიმიზაცია არც ისე მარტივია, როგორც ჩანს. ამ დიდი მოდელების გასაუმჯობესებლად მარტივი გამოსავალი არ არსებობს, ნაწილობრივ იმიტომ, სრულყოფილად არ გვესმის, როგორ მუშაობენ ისინი.

ფაქტების შემოწმება ერთ-ერთი ის დომენია, რომელიც AI-ისთვის ბუნებრივად ჟღერს: ინტერნეტის დიდი ნაწილის ინდექსირების შემდეგ, მას შეუძლია განცხადებები შეაფასოს და ნდობა დააბრუნოს. AI რეალურად ფაქტებს ძალიან ცუდად აფასებს — რისკი არის არა ის, რომ ხელოვნური ინტელექტი არასანდო შემმოწმებელი იქნება, არამედ ის, რომ  დამაჯერებელი დეზინფორმაციის ძლიერი წყარო თავად გახდება.

ამ პრობლემებს, ცხადია, ინდუსტრიის შემოქმედნიც ხედავენ და ცდილობენ ამაზე მეტი ისაუბრონ. ACM-ის კონფერენციაზე სამართლიანობის, ანგარიშვალდებულებისა და გამჭვირვალობის შესახებ წარდგენები, საგრძნობლად გაიზარდა. ხოლო NeurIPS-ში ისეთი საკითხები, როგორიცაა სამართლიანობა, კონფიდენციალურობა და ინტერპრეტაცია, უფრო მეტ ყურადღებას იპყრობს.

AI Index-ის გუნდმა შესანიშნავად იმუშავა. მთლიანი მოხსენების წაკითხვა ხელოვნური ინტელექტის კიდევ უფრო შეცნობაში დაგეხმარებათ, ნებისმიერ თემას ჩაუღრმავდებით, რომელიც თქვენში ინტერესს აღძრავს.

dev.ge-ზე ვაკანსიების სერვისი ამოქმედდა
dev.ge-ზე ვაკანსიების სერვისი ამოქმედდა
თემის მიხედვით
dev.ge-ზე ვაკანსიების სერვისი ამოქმედდა
კვლევა — გენერაციული AI გავლენას 300 მილიონ სამუშაო ადგილზე მოახდენს
კვლევა — გენერაციული AI გავლენას 300 მილიონ სამუშაო ადგილზე მოახდენს
თემის მიხედვით
კვლევა — გენერაციული AI გავლენას 300 მილიონ სამუშაო ადგილზე მოახდენს
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის
თემის მიხედვით
საუკეთესო AI ინსტრუმენტები მკვლევრებისთვის


ასევე წაიკითხეთ
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
AI-ის დამსახურებით, Nvidia-ს მოგება 600%-ით გაიზარდა
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
Truecaller და Microsoft მომხმარებლებს ზარებზე პასუხის გასაცემად AI ხმის შექმნის ნებას მისცემს
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
რა წერია ევროპული საბჭოს მიერ მიღებულ AI აქტში
დღეს, 21 მაისს ევროპულმა საბჭომ მიიღო ხელოვნური ინტელექტის აქტი — კანონი, რომელიც «მიზნად ისახავს ხელოვნური ინტელექტის წესების ჰარმონიზაციას». ევროპული საბჭო აცხადებს, რომ აქტი მიჰყვება რისკებზე დაფუძნებულ მიდგომას — რაც უფრო მაღალია საზოგადოებისთვის ზიანის მიყენების რისკი, მით უფრო მკაცრია წესები. ეს არის პირველი კანონმდებლობა მსოფლიოში, რომელსაც შეუძლია, დააწესოს ხელოვნური ინტელექტის რეგულირების გლობალური სტანდარტი.
Slack თავის AI მოდელების გასაწვრთნელად მომხმარებლის მონაცემებს უნებართვოდ იყენებს
Slack თავის AI მოდელების გასაწვრთნელად მომხმარებლის მონაცემებს უნებართვოდ იყენებს
Slack თავის AI მოდელების გასაწვრთნელად მომხმარებლის მონაცემებს უნებართვოდ იყენებს
განხილვა
კომენტარები ჯერ არაა.