بفضل شرائح "جروك".. الروبوتات البرمجية ترد في أقل من ثانية

الشركة الناشئة تهدد مستقبل نفيديا المُسيطرة على سوق شرائح الذكاء الاصطناعي

time reading iconدقائق القراءة - 5
علامة شركة جروك التجارية - Groq
علامة شركة جروك التجارية - Groq
القاهرة-محمد عادل

عندما نتفاعل مع إحدى منصات الذكاء الاصطناعي مثل ChatGPT وجيميناي وكوبايلوت وغيرها، فإن رد تلك المنصات يستغرق بضعة ثوانٍ، ليبدأ في الظهور على الشاشة، وهو أمر مقبول، لأن من يكتب هو نظام ذكي يحتاج لتحليل أسئلتنا بهدف إدراكها وبدء صياغة إجابته لتقديم المعلومات السليمة. ولكن ذلك بدأ في التغير مع ظهور "جروك".

جروك هي شركة ناشئة تعمل على تطوير شرائح إلكترونية مخصصة لتدريب وتشغيل النماذج اللغوية الضخمة LLMs، ويُطلق على تلك الشرائح LPU، إذ يرى مؤسس الشركة جوناثان روس أن استخدام شرائح مطورة خصيصاً لهذا الغرض، يرفع من سرعة تجربة المستخدم، ويخفض من استهلاكها للطاقة، مقارنة بشرائح معالجة الرسوميات GPU.

أقل من ثانية

خاضت "الشرق" تجربة استخدام  روبوت دردشة، يحمل اسم Groq أيضاً؛ يعمل بمعالجات الشركة، وهو قادر على تقديم ردود على استفسارات المستخدمين وأسئلتهم خلال أقل من ثانية واحدة، وذلك من خلال موقع الشركة الرسمي.

بمجرد إنهاء كتابة أي سؤال، بدأ الروبوت في الإجابة فوراً، وكأنه قد أعدها مسبقاً وكانت جاهزة لديه، وكل رد يقدمه جروك يظهر أسفله المدة المستغرقة لذلك.

استطاع جروك في أقل من ثانيتين الإجابة عن سؤال "ماذا تعرف عن الشرق للأخبار؟"، وقدم معلومات وافية بشأن تاريخ الموقع ومحتواه الإعلامي المتنوع، في حين أن منصات ذكية أخرى مثل ChatGPT وجيميناي استغرقت ما بين 4 إلى 5 ثوانٍ، ووصلت المدة إلى 6 ثوانٍ مع المساعد الذكي من مايكروسوفت Copilot، وجميعها تستخدم معالجات رسوميات مثل بطاقات نفيديا، بتشغيل وتدريب أنظمتها الذكية، على عكس جروك.

في الوقت الحالي، لا يمكن لمنصة جروك الذكية التحدث بالعربية بشكل سليم، على عكس بقية المنصات الذكية، إلا أن المنصة مدعومة بنموذجين للذكاء الاصطناعي، وهما Llama 2 المدعوم بحوالي 70 مليار متغير من تطوير ميتا، والآخر ميكسترال المدعوم بـ7 مليارات متغير من تطوير شركة ميسترال الفرنسية الناشئة.

بحسب الشركة، فإن جروك يمكنه كتابة رواية هاملت لشكسبير كاملة خلال 7 دقائق فقط، وذلك بمعدل 300 توكين في الثانية الواحدة، وهي وحدة قياس سرعة كتابة أنظمة الذكاء الاصطناعي، مما يعني 75 ضعف متوسط سرعة كتابة الإنسان الطبيعي. وزادت الشركة حالياً معدل سرعة جروك ليصل إلى 500 توكين في الثانية الواحدة.

المستقبل الآن

في حوار مع موقع وايرد، استعان مؤسس جروك بالروبوت البرمجي للإجابة على تساؤل "كيف يعمل جروك؟"، وحينها قال الروبوت الذكي: "معالجات الرسوميات مثل بطاقات نفيديا تعتبر مثالية في إنشاء ومعالجة الصور، ولكن تعاملها مع النصوص ليس الأفضل من حيث استهلاك الطاقة".

عندها طرح روس سؤالاً آخر على جروك بشأن فكرة ضغط نموذج لغوي ضخم كامل على ذاكرة شريحة إلكترونية، وهنا بدأ جروك في الإشادة بهذه الفكرة، إذ أوضح أن تصميم شريحة إلكترونية مخصصة لتشغيل أنظمة الذكاء الاصطناعي سيقدم أداء فائق السرعة والترشيد في الطاقة.

ووصف روس محادثته مع جروك بأنها أقرب إلى شخصين بشريين يتحدثان معاً، أحدهما يسأل والآخر يجيب قبل أن ينهي الأول سؤاله، فكأن الاثنين في سباق كلامي، مما يجعل تجربة التحدث إلى روبوت دردشة أكثر طبيعية وبشرية، كما أنها ستشجع المستخدمين على استكشاف استخدامات أكثر تنوعاً مع المنصات الذكية.

يُذكر أن روبوت جروك مدعوم حالياً بمركز بيانات في واشنطن، وداخله تعمل على مدار الساعة 792 شريحة من شرائح Groq LPU Inference.

وتتوقع الشركة الناشئة أن تتحول معظم المنصات الذكية الحالية بنهاية 2024 إلى شرائح المعالجة اللغوية LPU، وهي اختصار Language Processig Unit، لتقديم تجارب أكثر تطوراً للمستخدمين.

تصنيفات

قصص قد تهمك