مدلهای هوش مصنوعی محلی: رایگان، آفلاین و فقط مال خودتان
مدل محلی یعنی مدلی که روی سختافزاری که مال خودتان است اجرا میشود. برای همیشه رایگان است، بدون اینترنت کار میکند و هیچچیزی که تایپ میکنید به جایی نمیرود. این یک دستهبندی است، نه یک محصول، و برای یک مشاور املاک، کماستفادهترین گزینهای است که وجود دارد.
تماشای ویدیو در یوتیوباین دستهبندی چیست
یک ابزار مشخص نیست؛ یک روشِ اجرای ابزار است. مدل بهصورت یک فایل منتشر میشود، آن را دانلود میکنید و یک برنامه روی کامپیوترتان آن را بارگذاری میکند و اجازه میدهد از آن استفاده کنید.
همین یک تفاوت معماری، همه ویژگیهایی را که اهمیت دارند به وجود میآورد. حساب کاربری ندارد، چون چیزی برای ورود به آن وجود ندارد. هزینه ماهانه ندارد، چون چیزی به شما ارائه نمیشود. هیچ درخواستی از ساختمان خارج نمیشود، چون چیزی ارسال نمیشود.
چهار ویژگی که ارزش توجه دارند
برای همیشه رایگان است
نه آزمایشی است و نه یک سطح محدود. کنتور ندارد، پس اجرای چیزی دو هزار بار همان هزینه اجرای یک بار را دارد؛ و همین، ارزش انجامدادن کارها را بهکلی عوض میکند.
هیچچیز از کامپیوتر شما خارج نمیشود
برای کسی که با مدارک دیگران سروکار دارد، این یک ترجیح نیست؛ پیشفرض درست است. اصلاً این سؤال که فایل به کجا رفت، مطرح نمیشود.
نمیتواند زیر پای شما عوض شود
یک فایل روی دیسک شما سه سال بعد هم دقیقاً همانطور رفتار میکند. هر کسی که فرآیندی را روی یک سرویس میزبانیشده ساخته، دیده است که یک صبح، بدون هیچ اطلاعی، جور دیگری رفتار میکند؛ و وقتی به چیزی تکیه میکنید، این یک هزینه واقعی است.
بدون اتصال کار میکند
در این شغل، بیش از بیشتر شغلها اهمیت دارد، چون بخش زیادی از کار در ماشین، در ساختمانها و در جاهایی با سیگنال ضعیف انجام میشود.
واقعاً برای چه چیزی بهاندازه کافی خوب است
صادقبودن درباره مرز، همان چیزی است که جلوی این را میگیرد که آدمها یا این گزینه را نادیده بگیرند یا بیش از حد به آن تکیه کنند.
- خواندن مدارک طولانی و استخراج چیزهای مشخص از آنها. عالی است و این بالاترین ارزش استفاده است.
- استخراج ساختیافته از متن بدون ساختار، بارها و بارها و دقیقاً یکسان. عالی است.
- پیشنویس بلند از طرح و مطالب خودتان. خوب است، بهویژه با مدلی که برای آن مناسب باشد.
- بازنویسی، تغییر قالب، مقایسه و خلاصهکردن. خوب است.
- استدلال چندمرحلهای دشوار که جوابش در مطالب نیست. اینجاست که سرویسهای میزبانیشده هنوز برندهاند.
سؤال سختافزار، با جواب صریح
حافظه محدودیت است. نه سرعت پردازنده، نه گرافیک، نه قدمت دستگاه تا حد معقول.
16 گیگابایت یک مدل کوچک را راحت اجرا میکند و برای کار واقعی کافی است. 32 گیگابایت یک مدل واقعاً توانمند را اجرا میکند و جایی است که بیشتر آدمها دیگر تفاوتی با سرویس پولی در کارهای روزمره حس نمیکنند.
ماشینهای اپل یک برتری ساختاری دارند، چون حافظه با بخش گرافیک مشترک است؛ و مدل دقیقاً به همین نیاز دارد. پس یک مک با حافظه کافی، اینجا بهتر از چیزی عمل میکند که برگه مشخصات نشان میدهد. اگر قرار است لپتاپ را عوض کنید، حافظه همان عددی است که باید روی آن خرج کنید.
در هفته اول چه چیزی را امتحان کنید
سه تمرین، به ترتیب، و کل کار یک عصر طول میکشد.
برنامه را نصب کنید و کوچکترین مدل توانمند فهرست را دانلود کنید. نه بزرگترین را. رایجترین راه شکست این است که کسی بزرگترین چیز موجود را دانلود کند، ببیند روی دستگاهش قابل استفاده نیست و نتیجه بگیرد که این دستهبندی کار نمیکند.
بعد اینترنت را خاموش کنید و بیست دقیقه با آن روی کار واقعی کار کنید. همه میخوانند که آفلاین کار میکند و هیچکس باور نمیکند تا وقتی که خودش ببیند. این همان لحظهای است که بحث از حالت انتزاعی خارج میشود.
بعد یک سند طولانی به آن بدهید و بخواهید همه تاریخها و مهلتها را با صفحه مربوط به هر کدام استخراج کند. با دست خستهکننده است، بلافاصله قابل بررسی است و ظرف چند دقیقه به شما میگوید چقدر میتوانید به آن اعتماد کنید.
کجا اشتباه میشود
چهار اشتباه، و اولی دلیل بیشترِ رهاکردنهاست.
- شروعِ خیلی بزرگ
- مدلی که برای حافظه خیلی بزرگ باشد اجرا میشود و بد کار میکند، و نتیجهای که گرفته میشود درباره دستهبندی است، نه درباره انتخاب. کوچک شروع کنید، مطمئن شوید راحت است و فقط وقتی نیاز داشتید بزرگترش کنید.
- انتظار اطلاعات بهروز
- هیچ اطلاعاتی ندارد و نمیتواند داشته باشد، و بهطور قابل اعتماد هم به شما نمیگوید که ندارد.
- فرض اینکه خصوصی یعنی درست
- اجرای محلی جواب میدهد که دادهها به کجا رفتند و درباره دقت چیزی نمیگوید.
- تصمیم همهیاهیچ
- این جایگزین سرویسهای میزبانیشده نیست؛ ابزار درست برای دسته بزرگی از کارهاست و راهاندازی درست، از هر دو استفاده میکند.
چرا تقریباً هیچ مشاوری این کار را نکرده است
رایگان است، خصوصی است، یک عصر طول میکشد و استفاده از آن در این صنعت نزدیک به صفر است. ارزش دارد بپرسیم چرا.
بخشی به این دلیل است که کسی آن را تبلیغ نمیکند، چون محصولی برای فروش نیست. هر گزینه دیگری شرکتی پشت سرش دارد که توضیح میدهد چرا به آن نیاز دارید و این یکی هیچکس را ندارد.
بخشی به این دلیل است که فنی به نظر میرسد. دانلود و اجرای یک مدل شبیه یک کار مهندسی خوانده میشود، در حالی که به نصب یک برنامه نزدیکتر است.
و بخشی به این دلیل است که درک صنعت از هوش مصنوعی با یک پنجره چت میزبانیشده شکل گرفته است؛ پس مدل ذهنی این است که این یک سرویس است که برایش اشتراک میگیرید. این ایده که نسخه توانمندش ممکن است یک فایل رایگان روی دیسک خودتان باشد، در این چارچوب نمیگنجد؛ و دقیقاً به همین دلیل است که بهعنوان یک برتری باقی مانده است.
برنامه واقعاً چه کار میکند
ارزش دارد این را روشن کنیم، چون عبارت «اجرای یک مدل بهصورت محلی» چیزی است که باعث میشود سختتر از آنچه هست به نظر برسد.
مدل یک فایل بزرگ از اعداد است. بهتنهایی هیچ کاری نمیکند، همانطور که یک سند بدون چیزی که آن را باز کند هیچ کاری نمیکند. برنامه همان چیزی است که آن را در حافظه بارگذاری میکند و تایپ شما را به چیزی تبدیل میکند که مدل بتواند به آن پاسخ دهد.
چندتا از این برنامهها هست و همهشان همان کار را میکنند. برنامههای خوب فهرستی از مدلهای موجود را با اندازه کنار هر کدام و یک دکمه دانلود نشان میدهند و وقتی چیزی دانلود شد، دقیقاً مثل هر جای دیگری در یک جعبه تایپ میکنید. هیچ تنظیمی برای فهمیدن نیست و چیزی برای وصلکردن نیست.
واقعاً همین کل ماجرا است. فاصله بین اینکه این کار چطور به نظر میرسد و واقعاً چه چیزی در بر دارد، دلیل این است که خیلی کم آدم آن را امتحان کردهاند؛ و بیست دقیقه برای همیشه این فاصله را میبندد.
اجرای دو مدل، و چرا ارزشش را دارد
چون هزینهای برای هر بار استفاده نیست، اجرای بیش از یک مدل دیگر یک تصمیم نیست و به عادتی تبدیل میشود که ارزش شکلدادن دارد.
مدلهای مختلف برای چیزهای مختلف تنظیم شدهاند. یکی دستورالعملها را دقیق دنبال میکند و برای استخراج، جایی که قالب باید هر بار یکسان باشد، انتخاب درست است. دیگری طولانی مینویسد و یک قطعه را کنار هم نگه میدارد؛ و این همان چیزی است که برای پیشنویس میخواهید.
داشتن هر دو نصبشده یعنی انتخاب مدل درست هیچ فکری نمیخواهد و هیچ هزینهای ندارد؛ و یعنی میتوانید وقتی چیزی مهم است، همان درخواست را از هر دو بگذرانید. جایی که موافقاند، میتوانید مطمئنتر باشید. جایی که متفاوتاند، تفاوت تقریباً همیشه جایی را نشان میدهد که درخواست شما مبهم بوده، نه جایی که یک مدل شکست خورده است.
در سرویسهای پولی هیچکس این کار را نمیکند، چون اجرای همهچیز دو بار، صورتحساب را دو برابر میکند. اینجا دو برابرش هیچ است؛ و این یکی از معدود برتریهای واقعی گزینه رایگان نسبت به گزینه پولی است.
چطور کار را بین محلی و پولی تقسیم کنیم
قاعدهای که جواب میدهد، بر اساس مطالب است، نه بر اساس کار.
هر چیزی که مشتری، آدرس، سند یا نامی در آن باشد، میرود سمت محلی. این قضاوتی درباره هیچ ارائهدهندهای نیست؛ سؤال از اساس منتفی میشود و برای دستهای از کارها به این حساسیت، منتفیشدن سؤال ارزش زیادی دارد.
هر چیزی که به اطلاعات بهروز یا سختترین استدلال موجود نیاز دارد، میرود سمت یک سرویس پولی، با این شرط که اول بخشهای حساسش حذف شده باشد. بیشتر مشاورها وقتی واقعاً مرتبش میکنند، میبینند که این سهم کوچکتری از کار است تا آنچه انتظار داشتند.
هزینهاش چقدر است
هیچ، برای همیشه. فضای دیسک، یک عصر، و در نهایت یک تصمیم درباره حافظه، وقتی که دفعه بعد دستگاه را عوض میکنید. هیچ سطحی، هیچ کنتوری و هیچ چیزی که بتواند دوباره قیمتگذاری شود، وجود ندارد.
سؤالهایی که مشاورها واقعاً تایپ میکنند
آیا میتوانم هوش مصنوعی را روی لپتاپ خودم رایگان اجرا کنم؟
بله، برای همیشه. مدلهای باز بهصورت فایل منتشر میشوند که دانلودشان میکنید و با یک برنامه رایگان اجرایشان میکنید. هیچ حساب کاربری، هیچ اشتراکی و هیچ هزینهای برای هر بار استفاده نیست و همهچیز با اینترنت خاموش کار میکند.
برای هوش مصنوعی محلی به چه کامپیوتری نیاز دارم؟
حافظه محدودیت است، نه سرعت پردازنده. 16 گیگابایت کار واقعی انجام میدهد و 32 گیگابایت یک مدل واقعاً توانمند را اجرا میکند. ماشینهای اپل بهتر از مشخصاتشان عمل میکنند، چون حافظه با بخش گرافیک مشترک است.
آیا هوش مصنوعی محلی در مقایسه با ChatGPT بهاندازه کافی خوب است؟
برای خواندن مدارک، استخراج، پیشنویس از مطالب خودتان و تغییر قالب، بله. برای استدلال چندمرحلهای دشوار که جوابش در مطالب نیست، سرویسهای میزبانیشده هنوز برتری دارند. بیشتر کار مشاور در دسته اول میافتد.
چرا اینقدر کم مشاور املاک هوش مصنوعی را بهصورت محلی اجرا میکنند؟
تا حد زیادی چون کسی آن را تبلیغ نمیکند، چون محصولی برای فروش نیست، و چون شبیه یک کار مهندسی به نظر میرسد در حالی که به نصب یک برنامه نزدیکتر است. همین فاصله است که باعث میشود بهعنوان یک برتری در دسترس باقی بماند، نه یک رویه استاندارد.