حتی با وجود «امتیاز بالا اما توانایی پایین»، Grok2 مقادیر زیادی از داده‌های شخص ثالث با کیفیت بالا از پلتفرم X (توییتر) برای پشتیبانی از استفاده داشت. با این حال، در آموزش Grok3، xAI به طور طبیعی با «سقفی» که OpenAI در حال حاضر با آن مواجه است، مواجه شد - فقدان داده‌های آموزشی ممتاز به سرعت سودمندی حاشیه‌ای قابلیت‌های مدل را آشکار می‌کند.

توسعه‌دهندگان Grok3 و ماسک احتمالاً اولین کسانی هستند که این حقایق را عمیقاً درک و شناسایی می‌کنند، به همین دلیل است که ماسک دائماً در رسانه‌های اجتماعی اشاره می‌کند که نسخه‌ای که کاربران اکنون تجربه می‌کنند «هنوز فقط نسخه بتا» است و «نسخه کامل در ماه‌های آینده منتشر خواهد شد.» ماسک نقش مدیر محصول Grok3 را بر عهده گرفته است و به کاربران پیشنهاد می‌دهد که در بخش نظرات، بازخورد خود را در مورد مسائل مختلف ارائه دهند. او ممکن است پرفالوورترین مدیر محصول روی زمین باشد.

با این حال، بدون شک عملکرد Grok3 در عرض یک روز، زنگ خطر را برای کسانی که امیدوار بودند برای آموزش مدل‌های بزرگ و قوی‌تر به «عضلات محاسباتی عظیم» تکیه کنند، به صدا درآورد: بر اساس اطلاعات عمومی مایکروسافت، GPT-4 از OpenAI دارای اندازه پارامتر ۱.۸ تریلیون پارامتر است که بیش از ده برابر GPT-3 است. شایعات حاکی از آن است که اندازه پارامتر GPT-4.5 ممکن است حتی بزرگتر باشد.

با افزایش اندازه پارامترهای مدل، هزینه‌های آموزش نیز به شدت افزایش می‌یابد. با حضور Grok3، رقبایی مانند GPT-4.5 و دیگران که مایل به ادامه «هزینه کردن» برای دستیابی به عملکرد بهتر مدل از طریق اندازه پارامتر هستند، باید سقفی را که اکنون به وضوح در معرض دید است در نظر بگیرند و در مورد چگونگی غلبه بر آن فکر کنند. در حال حاضر، ایلیا ساتسکور، دانشمند ارشد سابق OpenAI، پیش از این در دسامبر گذشته اظهار داشت: «پیش‌آموزشی که با آن آشنا هستیم به پایان خواهد رسید»، که در بحث‌ها دوباره مطرح شده و تلاش‌هایی را برای یافتن مسیر واقعی برای آموزش مدل‌های بزرگ برانگیخته است.