علاقه عجیب مدلهای هوش مصنوعی به بیت کوین؛ مشاوره مالی با AI زیر سوال رفت!
تحقیقات جدید نشان میدهد که مدلهای زبانی بزرگ (LLM) که به عنوان مشاور مالی عمل میکنند، دارای سوگیریهای درونی پنهانی نسبت به بیت کوین هستند. بر اساس مطالعهای که توسط ونبین وو (Wenbin Wu) و تیمش انجام شده، هوش مصنوعی بسته به نحوه بیان کلمات در دستورها (Prompts)، ممکن است وزن بیت کوین در سبد پیشنهادی را به شدت تغییر دهد.
جالب اینجاست که حتی وقتی کاربر در درخواستهای مختلف از هوش مصنوعی، وضعیت مالی و ریسکپذیری یکسانی را ارائه میکند، استفاده از کلماتی مانند «اختلال بانکی» یا «خودمختاری مالی» باعث میشود هوش مصنوعی بیت کوین را از ردههای میانی به صدر جدول داراییهای پیشنهادی منتقل کند.
تغییر تخصیص با یک سوئیچ درونی
پژوهشگران با بررسی مدل «Gemma ۳» شرکت گوگل، یک ویژگی درونی را شناسایی کردند که به طور انتخابی به مفاهیم مرتبط با بیت کوین پاسخ میدهد. آنها دریافتند که با تقویت دستی این ویژگی، میزان تخصیص پیشنهادی به بیت کوین ۵.۲ واحد درصد افزایش مییابد و با سرکوب آن، ۴.۶ واحد درصد کاهش پیدا میکند.
این مداخله کاملاً در فعالیتهای داخلی مدل رخ داده و نشاندهنده این است که هوش مصنوعی بیت کوین را نه به عنوان یک دارایی واحد، بلکه به عنوان مجموعهای از ویژگیهای متغیر (مانند کمیابی یا ابزار دور زدن کنترلهای سرمایه) درک میکند.
چالشهای نظارتی و مسئولیت مؤسسات مالی
این یافتهها زنگ خطری برای بانکها و شرکتهای سرمایهگذاری است که از هوش مصنوعی برای تحلیل بازار استفاده میکنند. مشکل اصلی اینجاست که یک مدل هوش مصنوعی ممکن است دلیلی کاملاً متقاعدکننده برای یک تخصیص دارایی ارائه دهد، در حالی که فرآیند محاسباتی پشت آن ممکن است تحت تأثیر کلمات ظاهری باشد نه واقعیتهای اقتصادی.
نهادهای نظارتی مانند «FINRA» و «SEC» تأکید کردهاند که مسئولیت نهایی توصیههای مالی، چه توسط انسان و چه توسط ماشین ارائه شود، بر عهده مؤسسات است. تیم تحقیق در گزارش خود عنوان کرد:
تغییر در بازنماییهای درونی مدل و اندازهگیری تخصیص دارایی حاصل از آن، نشان میدهد که مشاوران مالی هوش مصنوعی، حتی وقتی دادههای واقعی مشتری تغییر نکرده باشد، ممکن است تنها بر اساس نحوه صورتبندی مسئله، توصیههای متفاوتی ارائه دهند که این امر بازرسی و حسابرسی فرآیند تصمیمگیری آنها را دشوار میکند.
