OpenAI ने पेश की Jalapeno AI चिप, तेज इंफरेंस का दावा

कैलिफ़ोर्निया: OpenAI ने अपने पहले कस्टम इन्फरेंस चिप, 'Jalapeno' (जलापेनो) की टेस्टिंग के नतीजे जारी किए हैं। कंपनी का कहना है कि यह इन-हाउस सिलिकॉन कई AI मॉडल में ज़्यादा थ्रूपुट, कम लेटेंसी और बेहतर पावर एफिशिएंसी देता है। X पर एक पोस्ट में, OpenAI के CEO सैम ऑल्टमैन ने इस डेवलपमेंट की घोषणा करते हुए कहा, "हमने एक चिप बनाया है और यह तेज़ है"।OpenAI की आधिकारिक वेबसाइट पर 'Jalapeno's first results show industry-leading speed and efficiency in AI inference' (जलापेनो के शुरुआती नतीजों से AI इन्फरेंस में इंडस्ट्री-लीडिंग स्पीड और एफिशिएंसी का पता चलता है) शीर्षक वाले लेख के अनुसार, मंगलवार (लोकल टाइम) को कंपनी ने कहा कि जलापेनो "प्रति यूनिट पावर ज़्यादा AI काम कर सकता है और साथ ही तेज़ी से रिस्पॉन्स भी दे सकता है"।OpenAI ने लेख में कहा, "जलापेनो एक ही आर्किटेक्चर के साथ ज़्यादा थ्रूपुट और कम लेटेंसी, दोनों देता है, जबकि मौजूदा हार्डवेयर सिस्टम में अक्सर इन दोनों के बीच समझौता करना पड़ता है"।कंपनी ने कहा कि यह चिप "तेज़ रिस्पॉन्स, ज़्यादा रिस्पॉन्सिव एजेंट और मांग बढ़ने पर ज़्यादा भरोसेमंद एक्सेस" मुमकिन बना सकता है। साथ ही, इससे ज़्यादा काबिल AI "किफायती और ज़्यादा लोगों के लिए उपलब्ध" हो सकता है।

OpenAI ने बताया कि जलापेनो की परफॉर्मेंस को GPT-OSS 120B, DeepSeek R1 और Kimi K2.5 1T पर टेस्ट किया गया, जिनमें कंपनी के बाहर विकसित मॉडल भी शामिल थे।कंपनी ने कहा, "इन तीनों पर, जलापेनो ने तुलनात्मक सिस्टम की तुलना में पीक थ्रूपुट पर प्रति वॉट 1.5 से 1.9 गुना ज़्यादा AI काम किया और एंड-टू-एंड लेटेंसी 1.7 से 3.6 गुना कम रही"।कंपनी ने आगे कहा, "बहुत ज़्यादा इंटरैक्टिव वर्कलोड के लिए, इसने 2.1 से 4.1 गुना बेहतर परफॉर्मेंस दी"। OpenAI ने कहा कि जलापेनो एक व्यापक "फुल-स्टैक एडवांटेज" को दर्शाता है, जिससे कंपनी मॉडल, प्रोडक्ट, सर्विंग सॉफ्टवेयर, चिप, मेमोरी, नेटवर्किंग और सिस्टम को एक साथ डिज़ाइन कर सकती है।

कंपनी ने कहा, "जलापेनो मापे गए नतीजों वाला फर्स्ट-पार्टी सिलिकॉन है, और यह कई पीढ़ियों तक चलने वाले प्लेटफ़ॉर्म की शुरुआत है"।कंपनी के अनुसार, चिप का मूल्यांकन SemiAnalysis के पब्लिक बेंचमार्क 'InferenceX' का इस्तेमाल करके किया गया, जो AI रिक्वेस्ट को सर्व करने की पूरी प्रक्रिया को मापता है। OpenAI ने कहा कि उसने जलापेनो की तुलना बाज़ार में उपलब्ध प्रमुख AI सिस्टम से की, जिसमें हाई-थ्रूपुट सर्विंग से लेकर बहुत ज़्यादा इंटरैक्टिव, कम-लेटेंसी वाले इस्तेमाल तक की अलग-अलग ऑपरेटिंग स्थितियां शामिल थीं। कंपनी ने कहा कि Jalapeno की रेटिंग 700 वॉट है, जबकि टेस्ट किए गए वर्कलोड पर इसकी मापी गई लगातार पावर 550 वॉट या उससे कम रही।

OpenAI ने कहा कि Kimi K2.5 1T (जो टेस्ट किया गया सबसे बड़ा पब्लिक मॉडल था) पर, Jalapeno ने तुलना वाले सिस्टम की तुलना में "प्रति वॉट लगभग 1.5 गुना ज़्यादा पीक परफॉर्मेंस और 3.4 गुना कम एंड-टू-एंड लेटेंसी" दी।

OpenAI ने कहा कि Jalapeno को खास तौर पर आधुनिक और भविष्य के लैंग्वेज-मॉडल वर्कलोड के लिए डिज़ाइन किया गया था, जिसमें इसके चिप, मेमोरी, नेटवर्क, सॉफ्टवेयर और रैक-स्केल सिस्टम को एक साथ विकसित किया गया।

कंपनी ने कहा, "हमने डेटा मूवमेंट और कम्युनिकेशन में देरी को कम करने के लिए Jalapeno को डिज़ाइन किया," और बताया कि मॉडल की स्थिति (जिसमें रिस्पॉन्स जनरेशन के दौरान इस्तेमाल होने वाला KV कैश भी शामिल है) को खास तौर पर लोकल जगह पर रखा जा सकता है।

कंपनी ने चिप बनाने में AI की भूमिका पर भी ज़ोर दिया और कहा कि इसने टीम को शुरुआती डिज़ाइन से टेपआउट तक नौ महीनों में पहुँचने में मदद की; इसके लिए अलग-अलग तरीकों को आज़माया गया और डिज़ाइन, माप और वेरिफिकेशन के साइकल को छोटा किया गया।

OpenAI ने कहा, "Jalapeno के विकास में AI ने सीधी भूमिका निभाई।"

कंपनी ने कहा कि उसने GPT-Astra के साथ Codex का इस्तेमाल करके तीन ओपन-वेट मॉडल को भी दो महीनों के भीतर हाई परफॉर्मेंस तक पहुँचाया, जो Jalapeno के ओरिजिनल प्रोडक्शन प्लान का हिस्सा नहीं थे।

OpenAI ने कहा, "चुनिंदा GPT-OSS अटेंशन और मिक्सचर-ऑफ-एक्सपर्ट्स ब्लॉक के लिए, AI-जनरेटेड इम्प्लीमेंटेशन मौजूदा ह्यूमन-एक्सपर्ट-लिखित इम्प्लीमेंटेशन की तुलना में 1.5 से 1.8 गुना तेज़ी से चले," साथ ही यह भी बताया कि ये आँकड़े पूरे मॉडल के बजाय चुनिंदा ब्लॉक पर लागू होते हैं।

OpenAI ने कहा कि वह साल के अंत तक अपने कंप्यूट इंफ्रास्ट्रक्चर में Jalapeno को तैनात करना शुरू करने की योजना बना रही है।

कंपनी ने कहा, "यह कई पीढ़ियों वाले रोडमैप की पहली पीढ़ी है: Gen 2 का विकास तेज़ी से चल रहा है, और Gen 3 आकार ले रहा है।"

कंपनी ने आगे कहा कि वह ट्रेनिंग और इन्फरेंस वर्कलोड के लिए NVIDIA और अन्य पार्टनर के एक्सेलेरेटर का इस्तेमाल जारी रखेगी, साथ ही Jalapeno को बड़े पैमाने पर ऑपरेशन के लिए तैयार करेगी और अतिरिक्त मॉडल पर इसकी परफॉर्मेंस को वैलिडेट करेगी।