tl ؛ DR: ضد الگوی دقیق AI تولیدی
یکی دیگر از موارد دیگر برای مجموعه شما وجود دارد: ضد الگوی دقیق AI AI ، که در آن سازمانها متعلق به LLM به عنوان ابزارهای دقیق هنگام طراحی ابزارها هستند. به نظر می رسد آشنا؟ این همان الگویی است که ما می بینیم وقتی تیم های چابک شیوه های چابک و بدون درک هدف خود از شیوه های چابک استفاده می کنند.
LLMS هنگام خلاصه کردن متون و شناخت تصاویر در مجموعه داده های بزرگ ، که به تجزیه و تحلیل بازخورد کاربران یا تولید پیش نویس اسناد کمک می کند ، عالی است ، اما آیا می توان از آنها برای انجام کارهای تعیین شده به عنوان محاسبات استفاده کرد؟ اگر مراقب نیستید که مشکل خود را با ابزار مناسب مطابقت دهید ، در نهایت بر اساس محصول خود مشکلاتی از هر نوع ایجاد می کنید.
در مورد آن چه کاری می توانید انجام دهید؟ سیگنال اسپویلر: تعمیر بهتر هدایت نمی شود ، بلکه نظم و انضباط معماری و تراز کردن ابزار کار است.
LLM شما خراب نیست. شما از آن اشتباه استفاده می کنید
یک الگوی جدید و وسوسه انگیز وجود دارد که در توسعه محصولات ظاهر می شود: استفاده از هوش مصنوعی تولیدی برای کارهایی که به دقت و قوام 100 ٪ نیاز دارند. در حالی که LLM ها ابزاری قدرتمند برای ایده ، شناسایی مدل یا خلاصه هستند ، درمان آنها به عنوان ماشین حساب یا کامپایلرها سوء استفاده از فناوری است.
این رویکرد غیرقابل اعتماد بودن سیستمیک را در محصول شما معرفی می کند و سوء تفاهم از آنچه ابزار در نظر گرفته شده است است. برای هر مشکل تعیین کننده ، این استراتژی نه تنها یک ناکارآمد بلکه یک میانبر برای شکست است.
هسته ضد بستری
در هسته آن ، این ضد مدل ناشی از اختلاف اساسی بین مشکل و ابزار است:
- بوها مشکل تعیین شده یک و تنها یک پاسخ صحیح وجود دارد. با توجه به همان ورودی ، باید هر بار دقیقاً به همان روش برسید. در نظر بگیرید که یک کد را تهیه کنید ، یک درخواست پایگاه داده یا محاسبه مالیات بر فروش را راه اندازی کنید. این امر با یک منطق سختگیرانه و قابل اثبات اداره می شود.
- بوها احتمالمانند LLM ، مطابق با احتمال آماری کار می کند. او پیش بینی درستترین دنباله کلمات بر اساس آموزش خود را پیش بینی می کند. هدف آن تولید یک پاسخ قانع کننده و شبیه به انسانی است ، نه یک حقیقت واقعی.
استفاده از LLM به عنوان یک کار تعیین شده این است که از یک نویسنده بخواهید مالیات خود را ثبت کند. احتمالاً سندی را تهیه خواهید کرد که به خوبی ساختار یافته باشد و به نظر می رسد معتبر است. با این حال ، احتمال صحیح بودن و سازگار با قانون مالیات کم است. همین تأثیر وقتی از ابزاری ساخته شده برای خلاقیت و تسلط برای انجام شغلی استفاده می کنید که نیاز به دقت محکم دارد.
رژیم های امتناع از ملاقات
هنگامی که تیم ها در این تله قرار می گیرند ، عواقب آن به روش های قابل پیش بینی آشکار می شود که کیفیت محصول و اعتماد به نفس مصرف کنندگان را تضعیف می کند.
خروج قابل قبول اما نادرست (توهم)
رایج ترین شکست زمانی است که LLM با اطمینان پاسخ نادرست ارائه می دهد. این می تواند کدی را تولید کند که از نظر نحوی کامل باشد اما حاوی یک نقطه ضعف منطقی خوب و بحرانی است. یا او ممکن است به درخواست محاسبه کاربر با عددی پاسخ دهد که صحیح به نظر می رسد اما در واقع نادرست است. مدل دروغ نمی گوید ؛ این به سادگی مونتاژ یک توالی آماری احتمالی از نشانگرها است ، بدون اینکه هیچ گونه پایه و اساس در واقع دقیق باشد.
ناسازگاری
اصل اساسی هر سیستم قابل اعتماد تکرارپذیری است. LLM ، با طراحی ، این را می شکند. با توجه به تکنیک های احتمالی طبیعت و نمونه گیری ، پرسیدن همان سؤال بارها می تواند پاسخ های مختلفی بدهد. این سطح غیرقابل اعتماد بودن برای هر فرآیند که به نتایج ثابت و قابل پیش بینی نیاز دارد قابل قبول نیست. شما نمی توانید یک عملکرد پایدار را به صورت ناپایدار بسازید.
“استدلال”
هنگامی که LLM “زنجیره ذهنی” خود را توضیح می دهد ، به طور رسمی اثبات نمی کند. او داستانی را ایجاد می کند که مسیر احتمال او را به پاسخ توضیح می دهد. این توجیه به خودی خود یک فرض احتمالی است و نمی توان به طور رسمی حسابرسی کرد. بر خلاف خطای کامپایلر ، که به یک کد سفارش خاص اشاره دارد ، توضیح LLM ضمانت صحت منطقی را ارائه نمی دهد.
از ابزار مناسب برای کار استفاده کنید
مشاهده اینکه استفاده از ابزارهای احتمالی برای حل مشکلات قطعی چالش برانگیز است به معنای این نیست که هوش مصنوعی تولیدی یک فناوری انقلابی نیست. در هر صورت ، با وظایفی از جمله خلاقیت ، خلاصه ، حمله مغزی و تعامل بین زبان طبیعی ، که ارزش آن را برای پزشکان چابک هر روز ثابت می کند ، متمایز می شود.
راه حل این عدم تطابق توانایی اساسی تلاش برای “اصلاح” صحت LLM در کارهای قطعی نیست. این به منظور تشخیص تفاوت قطعی بین دو نوع مشکلات و معماران سیستم های شما است:
- برای صحت ، دقت و تأیید ، به ابزارهای تعیین شده متکی باشید: صفحات گسترده ، کامپایلرها یا سیستم های مدیریت پایگاه داده.
- بنابراین ، LLM را به عنوان ابزارهای مکمل بررسی کنید ، نه برای جایگزینی. موثرترین برنامه ها قابلیت های تشخیص LLM را با سیستم های سنتی مبتنی بر منطق ترکیب می کنند که محاسبات و تأیید دقیق را پردازش می کنند.
بنابراین ، برای محصولات و تیم های مهندسی ، راه حل ساده است: ابزار را با کار مطابقت دهید. جایگزینی یک مدل تعیین شده با مدل احتمالی نوآوری نیست. این یک الگوی ضد الگوی است که ریسک غیر ضروری و بدهی فنی را به محصول شما معرفی می کند.
نتیجه گیری: ضد الگوی دقیق AI تولیدی
این ضد الگوی دقیق هوش مصنوعی یک مشکل سیستمیک را در نحوه پذیرش فن آوری های نوظهور در معرض دید قرار می دهد: ما بدون بررسی محدودیت های واقعی خود به سمت شیء براق می رویم.
درست همانطور که تیم ها وقتی تیم ها از پایه های تجربی خود نادیده می گیرند ، شکست می خورد ، تحقق LLM هنگامی که ماهیت احتمال آنها را نادیده می گیریم شکست می خورند. سازمان هایی که با هوش مصنوعی رونق می گیرند ، کسانی نیستند که آن را در همه جا مجبور می کنند. آنها کسانی هستند که به فکر محصول نظم و انضباط هستند. آنها درک می کنند که فناوری دستیابی به موفقیت نیاز به ارزیابی موفقیت در هنگام استفاده از آن دارد.
