هوش مصنوعی در حوزه مالی مفید است، اما خطاهای مشخصی دارد که اگر ندانید، هزینه‌شان را می‌پردازید. این مقاله درباره آن خطاها و راه‌های مهار آن‌هاست.
خطای اول: تولید عدد ساختگی
مدل زبانی برای تولید متن محتمل آموزش دیده، نه برای بازیابی واقعیت. وقتی داده‌ای ندارد، به‌جای گفتن «نمی‌دانم»، محتمل‌ترین متن را تولید می‌کند.
در نوشتن مقاله، این خطا آزاردهنده است. در تحلیل مالی، خطرناک است — چون عدد ساختگی با همان لحن اطمینان‌بخش عدد واقعی ارائه می‌شود و هیچ نشانه‌ای برای تشخیص آن وجود ندارد.
راه مهار: سه قید را با هم در پرامپت بگذارید.
اول: «فقط از داده‌ای که در انتها می‌دهم استفاده کن؛ هیچ عددی را از حافظه خودت نساز».
دوم: بخش اجباری «داده ناقص» را به ساختار خروجی اضافه کنید. وقتی مدل جایی برای اعلام کمبود دارد، کمتر جای خالی را با حدس پر می‌کند.
سوم: «برای هر عدد، محل استخراج آن در داده ورودی را ذکر کن». این کار هم خطا را کم می‌کند و هم بازبینی را ممکن می‌سازد.
خطای دوم: محاسبات چندمرحله‌ای
مدل‌ها در زنجیره‌های محاسباتی طولانی خطا می‌کنند، به‌خصوص وقتی اعداد بزرگ یا واحدهای مختلط در کارند. ساختن یک صورت سود و زیان برآوردی یا جمع کردن پرتفوی یک هلدینگ، دقیقاً همان کاری است که در آن خطا محتمل است.
مشکل این است که خطا معمولاً در یک مرحله میانی رخ می‌دهد و بقیه محاسبات روی عدد غلط ادامه پیدا می‌کنند. خروجی نهایی منسجم به نظر می‌رسد اما غلط است.
راه مهار: از مدل بخواهید فرمول را بنویسد، اعداد را جایگذاری کند و سپس نتیجه را بدهد. این کار هم احتمال خطا را کاهش می‌دهد و هم بازبینی را ممکن می‌کند.
و برای هر محاسبه مهم، عدد نهایی را با یک ماشین‌حساب یا صفحه‌گسترده مستقل تأیید کنید. این عادت، غیرقابل مذاکره است.
خطای سوم: قطعیت کاذب
مدل تمایل دارد با لحن قاطع پاسخ دهد، حتی وقتی داده کافی ندارد. عبارت‌هایی مثل «به احتمال زیاد» یا «مشخص است که» بدون پشتوانه عددی ظاهر می‌شوند.
در تحلیل مالی، این قطعیت کاذب می‌تواند به تصمیم‌های پرریسک منجر شود — چون شما ناخودآگاه اطمینان بیان را با اطمینان محتوا اشتباه می‌گیرید.
راه مهار: درخواست صریح سطح اطمینان. «برای هر یافته، سطح اطمینان (بالا، متوسط، پایین) را با ذکر دلیل بنویس».
و مهم‌تر: الزام به ارائه فرضیه رقیب. «همیشه یک تفسیر جایگزین معتبر ارائه بده و بگو چه داده‌ای این دو را از هم تفکیک می‌کند». این قید، خروجی را از حالت روایت قطعی به حالت فرضیه قابل آزمون می‌برد.
خطای چهارم: هم‌نوایی با کاربر
مدل‌ها تمایل دارند با کاربر موافقت کنند. اگر تحلیل خود را بنویسید و نظر بخواهید، احتمال تأیید شدن بالاست — صرف‌نظر از کیفیت تحلیل.
این خطرناک‌ترین خطا از نظر عملی است، چون دقیقاً همان سوگیری تأییدی شما را با لحن حرفه‌ای‌تری بازتاب می‌دهد و به آن اعتبار ظاهری می‌بخشد.
راه مهار: نقش وکیل شیطان. پرامپتی که مدل را موظف می‌کند فقط استدلال مخالف بسازد و هرگز موافقت نکند، حتی اگر تز قوی به نظر برسد.
و در پرامپت‌های معمولی، قید «اگر تحلیل من نقصی دارد، صریح بگو» را اضافه کنید.
خطای پنجم: داده کهنه
مدل پایه، داده بازار ندارد. اگر ابزار جست‌وجو فعال باشد، ممکن است عددی بیاورد اما دقت و زمان‌بندی آن برای تصمیم معاملاتی کافی نیست.
راه مهار: داده را همیشه خودتان وارد کنید و تاریخ آن را صریح ذکر کنید. در پرامپت بنویسید: «تاریخ داده را در ابتدای تحلیل ذکر کن و اگر داده‌ای بدون تاریخ است، هشدار بده».
یک پرامپت مرجع
اگر بخواهید همه این محافظ‌ها را در یک بلوک جمع کنید:
«قواعد سخت‌گیرانه: فقط از داده ورودی استفاده کن و هیچ عددی را از حافظه خودت نساز. اگر داده‌ای لازم است و موجود نیست، آن را در بخش داده ناقص فهرست کن. هر ادعا باید به یک عدد مشخص از داده ورودی متصل باشد. هر محاسبه را با نمایش فرمول و جایگذاری انجام بده. برای هر یافته سطح اطمینان بنویس. اگر شواهد متضاد بودند، تضاد را پنهان نکن. یک تفسیر جایگزین ارائه بده. هیچ توصیه خرید یا فروشی نده و هیچ پیش‌بینی قطعی قیمت ارائه نکن.»
این بلوک را در ابتدای هر پرامپت مالی بگذارید. تفاوت در کیفیت خروجی، محسوس است.
معیار نهایی
یک روش ساده برای سنجش اینکه آیا درست استفاده می‌کنید: خروجی را به کسی نشان دهید که موضوع را می‌داند. اگر بتواند هر عدد را تا منبعش ردیابی کند و هر ادعا را بسنجد، پرامپت شما خوب کار می‌کند.
اگر خروجی فقط «خوب به نظر می‌رسد» اما قابل راستی‌آزمایی نیست، آن را دور بریزید — هرچقدر هم زیبا نوشته شده باشد.