وقتی هوش مصنوعی و کلان‌داده تصمیم‌های ما را دستکاری می‌کنند

وقتی هوش مصنوعی و کلان‌داده تصمیم‌های خرید ما را هدایت می‌کنند

ما معمولاً فکر می‌کنیم هنگام خرید، خودمان تصمیم می‌گیریم. چیزی را می‌بینیم، قیمتش را بررسی می‌کنیم، به نیازمان فکر می‌کنیم و بعد انتخاب می‌کنیم. اما در دنیای دیجیتال، ماجرا کمی پیچیده‌تر شده است. فروشگاه‌های اینترنتی، شبکه‌های اجتماعی، بازی‌های موبایلی و پلتفرم‌های مختلف، هر روز مقدار زیادی از اطلاعات رفتاری ما را ثبت می‌کنند. چه چیزی را جست‌وجو کرده‌ایم، روی چه محصولی بیشتر مکث کرده‌ایم، چه زمانی آنلاین بوده‌ایم، چه چیزی را خریده‌ایم و حتی چه پیشنهادهایی را نادیده گرفته‌ایم، می‌تواند به بخشی از تصویر رفتاری ما تبدیل شود.

هوش مصنوعی با کنار هم گذاشتن این داده‌ها می‌تواند الگوهایی را پیدا کند که خود ما از آن‌ها خبر نداریم. به به بیان الهه آل محمدی نویسنده و مدرس سوادمالی امروز دیگر فقط با «تبلیغات» روبه‌رو نیستیم؛ با محیطی روبه‌رو هستیم که می‌تواند برای هر فرد به شکل متفاوتی طراحی شود. یک نفر در یک ساعت خاص، تخفیف ویژه می‌بیند؛ فرد دیگری همان زمان با پیام «فقط چند عدد باقی مانده» مواجه می‌شود و کاربر دیگری محصولی می‌بیند که دقیقاً با خرید قبلی او ارتباط دارد.

پرسش مهم این است: آیا این پیشنهادها فقط برای راحت‌تر شدن خرید ساخته شده‌اند یا گاهی می‌توانند رفتار ما را هم به نفع پلتفرم تغییر دهند؟ پژوهش‌های جدید اقتصاد دیجیتال تلاش می‌کنند همین مرز میان «پیشنهاد هوشمند» و «دستکاری رفتاری» را روشن کنند.

کلان‌داده چیست و چرا اهمیت پیدا کرده است؟

کلان‌داده یعنی مجموعه بسیار بزرگی از اطلاعات که از رفتار کاربران، خریدها، جست‌وجوها، کلیک‌ها، زمان حضور در یک صفحه و ده‌ها فعالیت دیگر به دست می‌آید. وقتی این حجم از اطلاعات با ابزارهای هوش مصنوعی تحلیل می‌شود، پلتفرم می‌تواند رفتار افراد را بهتر پیش‌بینی کند.

برای مثال، ممکن است یک فروشگاه اینترنتی متوجه شود که بعضی کاربران در ساعات پایانی شب، تصمیم‌های سریع‌تری می‌گیرند. یا بعضی افراد زمانی که خسته‌اند، کمتر قیمت چند گزینه را با هم مقایسه می‌کنند. این اطلاعات می‌تواند برای بهتر کردن تجربه کاربر استفاده شود؛ اما امکان دیگری هم وجود دارد: پلتفرم می‌تواند همان لحظه، پیشنهادهایی را نشان دهد که احتمال خرید را بیشتر می‌کند.

در اینجا مسئله اصلی خودِ داده نیست. داده می‌تواند مفید باشد. مسئله زمانی آغاز می‌شود که دانستن رفتار کاربر برای اثر گذاشتن بر تصمیم او به کار گرفته شود، بدون آنکه کاربر بداند چرا یک پیشنهاد خاص را در یک زمان خاص می‌بیند.

فرق شخصی‌سازی با دستکاری چیست؟

شخصی‌سازی زمانی اتفاق می‌افتد که یک سیستم، پیشنهادهایی متناسب با نیاز و علاقه کاربر ارائه کند. برای نمونه، اگر کسی مرتب کتاب‌های تاریخی جست‌وجو می‌کند، پیشنهاد کتاب تاریخی می‌تواند تجربه او را بهتر کند. در این حالت، هوش مصنوعی به انتخاب کمک می‌کند.

اما دستکاری زمانی مطرح می‌شود که طراحی پیشنهادها به‌گونه‌ای باشد که ضعف‌های رفتاری انسان را هدف بگیرد. مثلاً سیستم بداند کاربر در زمان خستگی کمتر دقت می‌کند و در همان زمان، محصولی با تخفیف ظاهری یا پیام فوریت بیشتر به او نشان دهد. در چنین شرایطی، کاربر ممکن است تصور کند آزادانه انتخاب کرده است، در حالی که محیط انتخاب از قبل به شکلی خاص طراحی شده است.

پژوهش سال ۲۰۲۵ چه نکته‌ای را روشن می‌کند؟

در پژوهشی که در سال ۲۰۲۵ در نشریه American Economic Review: Insights منتشر شد، دارون عجم‌اوغلو وهمکاران به این پرسش پرداختند که داده‌های گسترده چگونه می‌توانند امکان دستکاری رفتاری را افزایش دهند. مسئله اصلی مقاله این است که هوش مصنوعی، وقتی اطلاعات زیادی درباره رفتار کاربران دارد، می‌تواند هم به آن‌ها کمک کند و هم در شرایطی انگیزه ایجاد رفتارهای نامطلوب را برای پلتفرم بیشتر کند.

برای فهم ساده‌تر موضوع، تصور کنید چند محصول در برابر یک کاربر قرار دارند. بعضی محصولات در نگاه اول بسیار جذاب‌اند و در شروع تجربه خوبی ایجاد می‌کنند، اما بعد مشخص می‌شود کیفیت واقعی آن‌ها چندان بالا نیست. پژوهشگران این ویژگی را به شکل یک «جذابیت اولیه» در مدل خود بررسی می‌کنند. اگر کاربر خیلی زود متوجه کیفیت واقعی شود، هدایت او به سمت محصول نامناسب برای پلتفرم چندان سودآور نیست. اما اگر کاربر مدت زیادی در دام جذابیت اولیه بماند، شرایط تغییر می‌کند.

در این حالت، پلتفرم می‌تواند از داده‌های کاربران مشابه استفاده کند تا پیش‌بینی کند چه محصولی برای چه فردی جذاب‌تر است. در نتیجه، هوش مصنوعی ممکن است به جای آنکه بهترین محصول را به کاربر معرفی کند، محصولی را بهتر پیدا کند که احتمال خرید آن بیشتر است.

بعبارت دیگر بعضی کالاها فقط ظاهر جذاب و فریبنده‌ای دارند، اما وقتی می‌خرید متوجه می‌شوید کیفیت خوبی ندارند.اگر شما سریع متوجه این کیفیت پایین بشوید، سایت‌ها سراغ گول زدن شما نمی‌روند؛ اما اگر دیر متوجه شوید، ماجرا فرق می‌کند!

در این حالت، هوش مصنوعی با بررسی رفتار دیگران می‌فهمد چه چیزهایی در نگاه اول دل شما را می‌برد. در نتیجه، به جای اینکه «بهترین و باکیفیت‌ترین کالا» را پیشنهاد دهد، کالایی را جلوی چشمتان می‌گذارد که مطمئن است «سریع هول می‌شوید و آن را می‌خرید».

چرا خستگی و هیجان مهم هستند؟

تصمیم‌گیری انسان همیشه کاملاً منطقی نیست. وقتی خسته‌ایم، عجله داریم، تنها هستیم، هیجان‌زده‌ایم یا احساس می‌کنیم یک فرصت در حال از دست رفتن است، احتمال تصمیم‌های سریع بیشتر می‌شود. بسیاری از پیام‌های تجاری دقیقاً روی همین احساس و هیجانات کار می‌کنند: «فقط تا امشب»، «آخرین فرصت»، «تنها دو عدد باقی مانده» یا «این پیشنهاد برای شما انتخاب شده است».

هر کدام از این پیام‌ها لزوماً فریبنده نیستند و گاهی واقعاً اطلاعات مفیدی ارائه می‌کنند. مشکل زمانی به وجود می‌آید که سامانه با استفاده از داده‌های رفتاری، زمان مناسب برای اثرگذاری بر یک کاربر را پیدا کند و همان زمان، او را در معرض محرکی قرار دهد که تصمیم سریع‌تری ایجاد می‌کند.

ضربه دوتایی هوش مصنوعی و کلان‌داده

یکی از نکات مهم پژوهش این است که هوش مصنوعی می‌تواند دو قدرت را هم‌زمان افزایش دهد.

نخست، قدرت پلتفرم برای شناخت رفتار کاربران بیشتر می‌شود.

دوم، با افزایش تعداد محصول‌ها و گزینه‌ها، فرصت‌های بیشتری برای پیدا کردن محصولاتی ایجاد می‌شود که برای برخی کاربران جذاب به نظر می‌رسند، حتی اگر در بلندمدت انتخاب خوبی نباشند.

به زبان ساده، وقتی یک پلتفرم هم کاربران را بهتر می‌شناسد و هم گزینه‌های بیشتری برای عرضه دارد، می‌تواند دقیق‌تر به دنبال ترکیب «کاربر مناسب، زمان مناسب و پیشنهاد مناسب برای فروش» بگردد. این اتفاق برای کسب‌وکار ممکن است بسیار سودآور باشد، اما لزوماً به معنای افزایش رفاه مصرف‌کننده نیست.

آیا همه پیشنهادهای هوشمند بد هستند؟

قطعاً نه. هوش مصنوعی می‌تواند کارهای مفید زیادی انجام دهد. می‌تواند محصولات نامناسب را حذف کند، جست‌وجو را سریع‌تر کند، گزینه‌های مشابه را معرفی کند و پیدا کردن کالا یا خدمت مناسب را آسان‌تر سازد. حتی می‌تواند به مصرف‌کننده کمک کند انتخاب دقیق‌تری داشته باشد.

تفاوت اصلی در هدف و شیوه استفاده از فناوری است. اگر هدف، کمک به کاربر برای تصمیم بهتر باشد، شخصی‌سازی می‌تواند سودمند باشد. اگر هدف اصلی، افزایش احتمال خرید به هر قیمت باشد، خطر دستکاری بیشتر می‌شود. بنابراین مسئله فقط این نیست که الگوریتم چقدر هوشمند است؛ مهم است این هوش در خدمت چه کسی و با چه معیاری استفاده می‌شود.

چطور مصرف‌کننده از تصمیم خود محافظت کند؟

مهم‌ترین ابزار دفاعی در برابر تصمیم‌های عجولانه، آگاهی است. وقتی بدانیم صفحه‌ای که می‌بینیم ممکن است بر اساس رفتار قبلی ما شخصی‌سازی شده باشد، راحت‌تر مکث می‌کنیم. این مکث ساده می‌تواند فاصله‌ای میان «دیدن پیشنهاد» و «خرید کردن» ایجاد کند.

قبل از خرید بهتر است از خودمان بپرسیم: آیا واقعاً به این کالا نیاز دارم؟ اگر این تخفیف را نمی‌دیدم، باز هم قصد خرید داشتم؟ آیا پیام «فقط امروز» واقعاً ضروری است؟ آیا قیمت این محصول را جای دیگری هم بررسی کرده‌ام؟ همین چند سؤال ساده می‌تواند اثر تصمیم‌گیری هیجانی را کمتر کند.

همچنین بهتر است برای خریدهای غیرضروری قانون شخصی داشته باشیم. مثلاً تصمیم بگیریم خریدهایی که در لحظه هیجان، خستگی یا فشار زمانی انجام می‌شوند، چند ساعت یا یک روز بعد دوباره بررسی شوند. این روش کمک می‌کند تصمیم از حالت واکنشی خارج شود و دوباره به نیاز واقعی برگردد.

سواد دیجیتال و سواد مالی در عصر الگوریتم‌ها

امروز سواد مالی فقط دانستن مفاهیمی مانند بودجه، پس‌انداز، تورم و بدهی نیست. مصرف‌کننده باید بداند محیط دیجیتال چگونه می‌تواند روی تصمیم مالی او اثر بگذارد. این موضوع بخشی از سواد دیجیتال و سواد مالی جدید است.

شناخت اثر تبلیغات شخصی‌سازی‌شده، تخفیف‌های نمایشی، پیام‌های فوریت، پاداش‌های دیجیتال و طراحی صفحات خرید، به ما کمک می‌کند تصمیم آگاهانه‌تری بگیریم. در واقع، در اقتصاد دیجیتال، دفاع از پول فقط با محاسبه قیمت انجام نمی‌شود؛ باید سازوکار تصمیم‌سازی را هم بشناسیم.

نتیجه‌گیری نهایی و فرجام سخن

هوش مصنوعی و کلان‌داده می‌توانند کیفیت انتخاب‌های ما را بهتر کنند، اما همین ابزارها در شرایطی می‌توانند برای اثرگذاری بر نقاط ضعف رفتاری ما هم به کار گرفته شوند. مرز میان کمک و دستکاری، به این بستگی دارد که داده‌ها چگونه استفاده شوند و پلتفرم چه انگیزه‌ای داشته باشد.

مصرف‌کننده امروزی با یک تبلیغ ساده روبه‌رو نیست. او با سیستمی روبه‌رو است که می‌تواند از رفتار گذشته او یاد بگیرد، علایقش را پیش‌بینی کند و محیط انتخاب را برای او شخصی‌سازی کند. به همین دلیل، آگاهی و مکث در خرید اهمیت بیشتری پیدا کرده است. هر پیشنهاد جذابی الزاماً یک پیشنهاد خوب نیست و هر انتخاب سریع الزاماً یک انتخاب آزاد نیست.

در عصر هوش مصنوعی، آزادی انتخاب فقط به این معنا نیست که چند گزینه پیش روی ما باشد؛ مهم این است که بدانیم این گزینه‌ها چگونه، چه زمانی و با چه هدفی به ما نمایش داده می‌شوند. شناخت کلان‌داده، الگوریتم‌ها و سوگیری‌های رفتاری می‌تواند یکی از مهم‌ترین مهارت‌های مالی و دیجیتال برای زندگی امروز باشد.