वाइन सेलर्स में जीपीयू: तकनीकी उत्साही लोग घर पर एआई कंप्यूटिंग शक्ति क्यों जमा कर रहे हैं

सार:

वाशिंगटन के बेलेव्यू में एक शांत पड़ोस में, गैरी फ्लेक के आधुनिक घर के तहखाने को पूरी तरह कार्यात्मक पुरुषों के अवकाश स्थान की तरह सजाया गया है: बड़े स्क्रीन मॉनिटर और डिजिटल प्रोजेक्टर के बीच एक आरामदायक सोफा रखा गया है, और एक कताई और रोइंग मशीन भी है। लेकिन इस कमरे का असली आकर्षण एक कस्टम-निर्मित होस्ट है जो एक विशाल इकट्ठे मॉडल जैसा दिखता है, जिसमें रैक पर सात एनवीडिया उच्च-प्रदर्शन ग्राफिक्स कार्ड लटके हुए हैं।

प्रौद्योगिकी उत्साही एक उच्च प्रदर्शन वाले एआई होस्ट को इकट्ठा करते हैं घर, और इसके बाद गर्मी अपव्यय की एक कांटेदार समस्या है

फ्लेक पहले माइक्रोसॉफ्ट में काम करते थे और कई स्टार्ट-अप कंपनियों के संस्थापक भी हैं। उन्होंने इलेक्ट्रोएन्सेफलोग्राम डेटा के टेराबाइट्स के आधार पर कस्टम एआई मॉडल को प्रशिक्षित करने के लिए मशीन का निर्माण किया, जो मस्तिष्क में विद्युत संकेतों को रिकॉर्ड करता है, एक स्टार्टअप के हिस्से के रूप में जिसे वह अब आगे नहीं बढ़ाते हैं।

एआई मॉडल को प्रशिक्षित करने के लिए, वह क्लाउड सेवा प्रदाता से डेटा सेंटर में औद्योगिक-ग्रेड जीपीयू कंप्यूटिंग पावर किराए पर ले सकता था। लेकिन उन्होंने कहा कि रियायती घटकों के साथ इसे स्वयं स्थापित करना अधिक लागत प्रभावी है। पूरे उपकरण की कुल लागत $6,000 से कम है, जो अमेज़ॅन क्लाउड या माइक्रोसॉफ्ट क्लाउड को मासिक शुल्क का भुगतान करने से बहुत कम है।

भले ही आप बेसमेंट में गर्मी को खत्म करने और एआई होस्ट द्वारा उत्पन्न भारी गर्मी को ऑफसेट करने के लिए विद्युत संशोधनों और एक नई एचवीएसी प्रणाली (कुल यूएस $ 1-20,000) की लागत शामिल करते हैं, फिर भी इसे स्वयं स्थापित करना लागत प्रभावी है। "मैं कंप्यूटिंग शक्ति अपने हाथों में चाहता हूं," फ्लेक ने कहा, जो नई परियोजनाएं शुरू करने के लिए आने वाले महीनों में मशीन का पुन: उपयोग करने की योजना बना रहा है। "मैं अन्य लोगों की कंप्यूटिंग शक्ति को किराए पर नहीं लेना चाहता।"

एआई सनक के इस दौर में अटारी, बेसमेंट और घरेलू कार्यालयों में स्थानीय स्तर पर एआई वर्कलोड चलाना एक अप्रत्याशित घटना बन गई है। प्रमुख प्रमुख एआई कंपनियां बड़े पैमाने पर कंप्यूटिंग शक्ति की मांग को पूरा करने के लिए हजारों जीपीयू से भरे बड़े दूरस्थ डेटा केंद्रों में बड़े मॉडलों को प्रशिक्षित और चलाती हैं।

गैरी फ्लेक के घर पर GPU उपकरण

उसी समय,

स्थानीय AI की लहर

है उभर रहा है. बड़ी संख्या में छोटे डेवलपर्स और हार्डवेयर उत्साही लोग लागत, गोपनीयता और उपयोग में आसानी के कारण अपने घरेलू उपकरणों पर एआई चलाना चुनते हैं। स्वतंत्रता की अवधारणा में विश्वास करने वाले कुछ डेवलपर्स का मानना ​​है कि स्थानीय एआई भविष्य के सरकारी प्रतिबंधों से बच सकता है और एआई तकनीक का उपयोग करने की उनकी अनुमति में कटौती कर सकता है। ओपनक्लाव जैसे स्थानीय एजेंट प्लेटफ़ॉर्म जटिल कार्यों को पूरा करने के लिए सीधे मूल एप्लिकेशन और स्थानीय फ़ाइलों को कॉल कर सकते हैं, जिसने इस प्रवृत्ति में भी योगदान दिया है।

कभी-कभी, घरेलू एआई डिवाइस केवल शानदार घरेलू सुविधाएं होती हैं। पिछले महीने, शॉपिफाई के सीईओ टोबी लुत्के अपने घर में वर्टिकल सर्वर कैबिनेट के तीन सेट दिखाने के बाद सोशल प्लेटफॉर्म पर वायरल हो गए थे। अलमारियाँ गुलाबी एलईडी लाइट स्ट्रिप्स से लिपटी हुई थीं। उपकरण में एनवीडिया के हाई-एंड ग्राफिक्स कार्ड से लैस एक डेल होस्ट शामिल है, जिसे निर्माता "अल्टीमेट डेस्कटॉप सुपरकंप्यूटर" कहता है। ल्यूडटके ने उपकरण ताप अपव्यय की समस्या को भी चतुराई से हल किया।

होम एआई कंसोल का उदय हार्डवेयर निर्माताओं के लिए एक अप्रत्याशित लाभ है। मैक मिनी और मैक स्टूडियो स्मार्टफोन डेवलपर्स के बीच बहुत लोकप्रिय हैं, और बिक्री बढ़ रही है; डेल ने यह भी कहा कि घरेलू एआई उत्साही लोगों के लिए बाजार में विस्फोटक वृद्धि हो रही है।

डेल के वरिष्ठ प्रतिष्ठित इंजीनियर मार्क हैमन्स ने कहा: "यह समय का चलन है। इस साल ओपनक्लॉ के आगमन के बाद, संबंधित हार्डवेयर की मांग आसमान छू गई है।"

घर पर उच्च-प्रदर्शन वाले होस्ट रखना कोई नई बात नहीं है, और "होमलैब" उत्साही समुदाय पहले से ही डिस्कॉर्ड और रेडिट जैसे प्लेटफार्मों पर फल-फूल रहे हैं। 21वीं सदी की शुरुआत में, ऑडियोफाइल्स ने घर पर सर्वर बनाए, बड़े पैमाने पर हार्ड ड्राइव लगाए, और डाउनलोड किए गए एमपी3 संगीत और वीडियो को संग्रहीत किया। बाद में, क्रिप्टोक्यूरेंसी खनन बूम ने घरेलू उपयोग के लिए उच्च-प्रदर्शन वाले जीपीयू की मांग को बढ़ा दिया।

हितेन शाह उस समय एक क्रिप्टोकरेंसी खिलाड़ी थे। 2020 में, उन्होंने एथेरियम को माइन करने के लिए घर पर सर्वर रैक पर आठ जीपीयू स्थापित किए। आज, सॉफ्टवेयर स्टार्टअप क्रेजी एग के सीईओ शाह ने एआई विकास की ओर रुख किया है और कैलिफोर्निया के रेडवुड शोर्स में अपने घर पर कंप्यूटिंग पावर आर्मामेंट को 14 मैक मिनी और मैक स्टूडियो सहित कुल 18 डिवाइसों तक विस्तारित किया है।

शाह ने कहा कि स्थानीय कंप्यूटिंग शक्ति उन्हें अपने द्वारा विकसित वेबसाइट अनुकूलन सॉफ़्टवेयर के प्रदर्शन को नियंत्रित करने की अनुमति देती है। बड़े क्लाउड मॉडल के लिए बार-बार डाउनटाइम और अंतराल का अनुभव होना सामान्य है। "जब भी किसी बड़े मॉडल को क्लाउड में अपडेट किया जाता है, तो सिस्टम कई दिनों तक अस्थिर रहेगा और बार-बार विफलताएं होंगी।"

लेकिन कीमत यह है कि रहने का आराम बहुत कम हो गया है। सभी कंप्यूटिंग उपकरण उनके गृह कार्यालय में रखे गए हैं, और मशीनों द्वारा उत्सर्जित गर्मी के कारण अक्सर इनडोर तापमान 85 डिग्री फ़ारेनहाइट (लगभग 29.4 डिग्री सेल्सियस) तक बढ़ जाता है। वह अक्सर शॉर्ट्स पहनकर ही कमरे में रह सकता है। शाह ने कहा, "मुझे एक एयर कंडीशनर लगाना चाहिए।"

कई स्थानीय एआई उत्साही उद्योग में इंटरनेट सेलिब्रिटी बन गए हैं। एक ऑस्टिन-आधारित YouTuber जिसने गुमनामी का अनुरोध किया और केवल चैनल नाम डिजिटल स्पेसपोर्ट से जाना जाता है। उन्होंने अपने गैराज में वह बनाया जिसे वे "होम डेटा सेंटर" कहते हैं। हार्डवेयर में पांच एएमडी ग्राफिक्स कार्ड, साथ ही बड़ी संख्या में नेटवर्क और स्टोरेज डिवाइस शामिल हैं। वर्तमान में, वह अपने स्वयं के YouTube वीडियो को संपादित और विश्लेषण करने के लिए इस मशीन पर बड़े घरेलू ओपन सोर्स मॉडल टोंगयी कियानवेन क्वेन-3.8-27B चला रहे हैं।

एक अन्य पोलिश तकनीकी सलाहकार और YouTuber, जो गुमनाम भी है, चैनल आईडी 0xSero का उपयोग करता है। जैसे-जैसे उन्होंने अधिक से अधिक हार्डवेयर खरीदे, उन्हें एआई होस्ट को अपने घर के आसपास स्थानांतरित करना पड़ा। चार NVIDIA 6000 ग्राफिक्स कार्ड मूल रूप से उनके गृह कार्यालय में रखे गए थे, लेकिन उन्होंने बहुत शोर किया, अत्यधिक गर्मी उत्पन्न की, और कमरे में हवा को सूखा दिया। उनका मानना ​​था कि पिछले साल उनकी बीमारी का कारण यही था। इसलिए पूरे सेट को अटारी में ले जाया गया।

0xSero क्लाउड AI मॉडल का उपयोग करने वाला पहला था। 2024 के अंत में महत्वपूर्ण मोड़ आया: एआई प्रोग्रामिंग टूल कर्सर की कीमत में वृद्धि हुई। "उसी क्षण मैंने स्थानीय एआई विकसित करने का मन बना लिया।"

वह एक दृष्टिकोण पर जोर देते हैं: एआई सिस्टम का स्वामित्व और नियंत्रण उपयोगकर्ताओं के हाथों में होना चाहिए। भविष्य में, AI एक्सेस अधिकारों पर सरकारी नियंत्रण और प्रतिबंध हो सकते हैं। "मुझे वास्तव में एआई पसंद है और मैं इसे इस्तेमाल करने का अधिकार बरकरार रखना चाहता हूं।"