NVIDIA და Google კიდევ ერთხელ ერთიანდებიან, რათა ერთიანი ძალებით გამოუშვან Gemma — ღია ენის მოდელების ოპტიმიზებული ნაკრები, რომელიც Gemini ტექნოლოგიიდან არის მიღებული. TensorRT-LLM-ის საშუალებით Gemma მაღალ გამტარუნარიანობასა და უახლეს შესრულებას გთავაზობთ. რაც მთავარია, ის NVIDIA AI-ის პლატფორმებისთვის თავსებადია.
NVIDIA და Google კიდევ ერთხელ ერთიანდებიან, რათა ერთიანი ძალებით გამოუშვან Gemma — ღია ენის მოდელების ოპტიმიზებული ნაკრები, რომელიც Gemini ტექნოლოგიიდან არის მიღებული. TensorRT-LLM-ის საშუალებით Gemma მაღალ გამტარუნარიანობასა და უახლეს შესრულებას გთავაზობთ. რაც მთავარია, ის NVIDIA AI-ის პლატფორმებისთვის თავსებადია.
კომპანიების გუნდები Gemma-ს მუშაობის დასაჩქარებლად აქტიურად მუშაობენ — ამისთვის, როგორც უკვე ვთქვით, დიდი ენობრივი მოდელის დასკვნის ოპტიმიზაციისთვის ღია კოდის ბიბლიოთეკას, NVIDIA TensorRT-LLM-ს იყენებენ.
Google DeepMind-ის მიერ შემუშავებული Gemma 2B და Gemma 7B მოდელები უპირატესობას ეფექტურობას ანიჭებენ. TensorRT-LLM-ის მიერ დაჩქარებული Gemma უწყვეტ განლაგებასა და ოპტიმიზაციას უზრუნველყოფს. TensorRT-LLM-ის გამარტივებული Python API ბირთვის შეკუმშვას აუმჯობესებს (kernel compression) და Python-ის დეველოპერებისთვის პერსონალიზაციის ვარიანტებს აძლიერებს.
დეველოპერებს Gemma-ის გაშვება NVIDIA GPU-ებზე ღრუბელშიც შეუძლიათ, მათ შორის Google Cloud-ის A3 ინსტანციებზე, რომლებიც H100 Tensor Core GPU-ზეა დაფუძნებული.
უშუალოდ საწარმოს დეველოპერებს შეუძლიათ დამატებით NVIDIA-ს ხელსაწყოების მდიდარი ეკოსისტემით ისარგებლონ — მათ შორის NVIDIA AI Enterprise NeMo Framework-ითა და TensorRT-LLM-ით.
Gemma-ს მალე Chat with RTX დაემატება, რომელიც მომხმარებლებს საკუთარი მონაცემებით, პერსონალიზებული ჩათბოტის შექმნის საშუალებას მისცემს.
