هوش مصنوعی
دستیار چه کاری را حق دارد انجام دهد — و چه کسی تعیین میکند
«هوش مصنوعی دارد» دیگر یک تمایز نیست. پرسشی که خریدار باید بپرسد این است: این دستیار چه چیزی را میتواند بدون تأیید من تغییر دهد؟
۵ دقیقه مطالعه
پرسش درست، پرسش دقت نیست
بحث دربارهٔ هوش مصنوعی در نرمافزارهای سازمانی معمولاً حول دقت میچرخد: چقدر درست پاسخ میدهد؟ این پرسش مهمی است اما پرسش اول نیست.
پرسش اول این است: وقتی اشتباه میکند، اشتباهش تا کجا میرود؟ سیستمی که فقط پیشنهاد میدهد، خطایش را یک انسان میبیند و رد میکند. سیستمی که خودش اجرا میکند، خطایش وارد سابقه میشود.
سه مرز
سه چیزی که باید از هر فروشنده بپرسید
چه کاری پیشنهاد است و چه کاری اجرا؟
پاسخ باید مشخص باشد و فهرستشدنی. اگر فروشنده نمیتواند بگوید دقیقاً کدام عملها بدون تأیید انجام میشوند، یعنی کسی این مرز را طراحی نکرده.
چه کسی این مرز را تعیین میکند؟
اگر مرز را فروشنده تعیین کرده و ثابت است، شما یک سیاست را میپذیرید نه یک ابزار را. اختیارات باید در دست مدیر فضای کاری باشد.
چه چیزی برای مدل فرستاده میشود؟
بپرسید آیا دفتری از مصرف نگه داشته میشود که خودتان بتوانید ببینید — چه متنی رفت، به کدام مدل، و چه هزینهای داشت. بدون این، ادعای حریم خصوصی قابل بررسی نیست.
پاسخ ما به هر سه
دستیار پیشفرض پیشنهاد میدهد و اجرا نمیکند. اقدامها پیش از انجام تأیید میشوند، و کنترل اختیارات دستیار (SPEC §18.5، مستقر از ۱۴۰۵/۰۵/۰۹) در دست مدیر فضای کاری است نه ما.
دفتر مصرف هوش مصنوعی هر فراخوانی را ثبت میکند — چه چیزی فرستاده شد و چه هزینهای داشت — و در دسترس خودتان است. در استقرار داخلی، مدل زبانی هم میتواند داخل شبکهٔ خودتان بنشیند و آنوقت اصلاً چیزی بیرون نمیرود.
و هر پاسخی که دستیار میدهد ارجاع به منبعش را همراه دارد. این کندتر از یک پاسخ قاطع است و عمدی است: در کاری که نتیجهاش به مشتری تحویل میشود، پاسخ بدون منبع ارزش عملی ندارد.
پرسشهای پرتکرار
دادهٔ ما برای آموزش مدل استفاده میشود؟
خیر. دادهٔ شما برای آموزش هیچ مدلی استفاده نمیشود. در حالت ابری، متن برای پردازش به مدل فرستاده میشود و دفتر مصرف نشان میدهد چه چیزی رفته است؛ در استقرار داخلی میتوانید مدل را هم داخل شبکهٔ خودتان بگذارید.میشود هوش مصنوعی را کامل خاموش کرد؟
بله. نسخهٔ رایگان اصلاً اعتبار هوش مصنوعی ندارد و پالس، فید و پایپلاین در آن کامل کار میکنند — چون اینها هیچ فراخوانی به مدل نمیزنند.
با دادهٔ واقعی خودتان امتحان کنید
نسخهٔ رایگان محدودیت زمانی ندارد. سختترین سندی که دارید را بیاورید.