الهدف الأساسي
في رسالة مؤرخة في أكتوبر 2023، صرح نائب رئيس قسم الذكاء الاصطناعي التوليدي في Meta، أحمد الدحلة، بأن «هدفنا بصراحة هو GPT-4». وأكد الدحلة على أهمية التكنولوجيا المتقدمة، مشيرًا إلى أن الشركة ستتلقى 64 ألف وحدة معالجة رسومية جديدة، مما يزيد من الحاجة إلى الابتكار والفوز في هذا السباق.
على الرغم من أن Meta تصدر نماذج الذكاء الاصطناعي المفتوحة، إلا أن التركيز الأكبر كان على منافسين مثل Anthropic وOpenAI الذين لا يعلنون عادةً عن أوزان نماذجهم. اعتبرت هذه النماذج، بما في ذلك نموذج Claude من Anthropic وGPT-4، بمثابة «معيار ذهبي» للعمل نحوه.
مدى التنافسية
تكررت الإشارة إلى شركة Mistral الفرنسية، التي تعد من المنافسين الرئيسيين، في الرسائل الداخلية، لكن النبرة كانت تفتقر إلى التقدير. حيث قال الدحلة: «إن Mistral لا قيمة لها بالنسبة لنا»، مؤكدًا ضرورة تقديم أداء أفضل.
تتسابق شركات التكنولوجيا حاليًا لتطوير نماذج الذكاء الاصطناعي، لكن الرسائل تكشف عن مدى التنافسية داخل Meta. فقد أشار مسؤولو الذكاء الاصطناعي إلى «عدوانيتهم» في جمع البيانات الضرورية لتدريب Llama. في إحدى الرسائل، قال أحد المسؤولين التنفيذيين: «Llama 3 هو كل ما يهمني حرفيًا».
نتائج سريعة
تواجه Meta مزاعم من المدعين العامين بأن المسؤولين في الشركة قد اختصروا الزوايا أحيانًا في سعيهم لتحقيق نتائج سريعة، مما أدى إلى استخدام كتب محمية بحقوق الطبع والنشر في عملية التدريب.
في رسالة أخرى، أشار الباحث هوغو توفرون إلى أن مجموعات البيانات المستخدمة في Llama 2 «كانت سيئة»، وتحدث عن كيفية تحسين Meta لمجموعات البيانات المستخدمة في Llama 3. كما تم التطرق إلى استخدام مجموعة بيانات LibGen، التي تحتوي على مواد محمية بحقوق الطبع والنشر.
نموذج منافس
أوضح الرئيس التنفيذي مارك زوكربيرج، في وقت سابق، أنه يسعى لجعل نماذج Llama تنافس نماذج الذكاء الاصطناعي المغلقة من OpenAI وGoogle. وكشفت الرسائل الداخلية عن الضغوط الكبيرة داخل الشركة لتحقيق هذا الهدف.
في رسالة مؤرخة في يوليو 2024، قال زوكربيرج: «هذا العام، تنافس Llama 3 النماذج الأكثر تقدمًا وتتقدم في بعض المجالات». وعند إطلاق Llama 3 في أبريل 2024، أظهر النموذج القدرة على المنافسة مع النماذج المغلقة الرائدة.
مع ذلك، فإن البيانات التي تم استخدامها لتدريب نماذج Llama تواجه تدقيقًا في العديد من الدعاوى القضائية الجارية، مما يزيد من تعقيد جهود الشركة في هذا المجال.