هوش مصنوعی وقتی باعث ضرر 500 میلیارد دلاری در بازار شود، شوخی نیست
اگرچه بازار تقریباً به همان سرعتی که آن میلیاردها را در صبح روز سه‌شنبه از دست داد بهبود یافت، مشخص نیست که تصاویر جعلی – و عمدتاً حساب‌های جعلی که آنها را منتشر کردند – چه تأثیری بر نتایج کلی بازار در آن روز داشتند. همچنین مشخص نیست که چه مقدار پول ممکن است به صورت کارمزد اعمال شده به صندوق‌ها، از جمله بسیاری از صندوق‌های بازنشستگی، که در آن سرمایه‌گذاران هر بار که صندوق خرید یا فروش سهام را می‌خرند، از بین رفته باشد.
بیشتر تغییرات در بازار سهام احتمالاً با فشار دادن دکمه وحشت توسط انسانها به دلیل نگرانی در مورد یک فاجعه احتمالی ایجاد نشده است. اکثر سهام توسط انسان معامله نمی شود. حرکات عظیم، مانند حرکتی که باعث سقوط S&P و پشتیبان‌گیری در روز دوشنبه شد، توسط نوع دیگری از هوش مصنوعی مدیریت می‌شود که ارزیابی‌هایی را اجرا می‌کند که اطلاعات را از همه جهت جمع‌آوری می‌کند.
اما این وضعیت کاملاً خالی از انسان نبود. شخصی آن تصاویر را از Midjourney یا یک تولید کننده تصویر مبتنی بر هوش مصنوعی سفارش داد. یک نفر آنها را در شبکه های اجتماعی قرار داده است. احتمالاً کسی شروع به سقوط بازار کرد.
اما هیچ یک از آن انسان ها نسبت به این رویداد انتقادی نداشتند. با کدنویسی نیم روز یا کمتر، می توان یک ربات بحران ایجاد کرد که اخبار فعلی را بررسی کند، تصاویری از یک فاجعه محتمل را سفارش دهد، آنها را در رسانه های اجتماعی نصب کند، آنها را با هزاران یا ده ها هزار ریتوییت تقویت کند. و پیوند می دهد، آنها را با حساب های ظاهرا معتبر فشار می دهد، و آنها را به گونه ای تنظیم می کند که پاسخی را از سوی ربات هایی که بازار سهام، بازار اوراق قرضه، بازار کالاها یا تقریباً هر جنبه دیگری از اقتصاد را اداره می کنند، ایجاد کند.
آنها می توانند این کار را به طور منظم، تصادفی یا در موقعیت های هدفمند انجام دهند. آنها می‌توانستند این کار را بسیار متقاعدکننده‌تر از این دو تصویر انجام دهند – و به روش‌هایی که رد کردن آن بسیار دشوارتر بود. چه اتفاقی که روز دوشنبه افتاد، یک بالون آزمایشی، جنگ سایبری، یا کسی که فقط به اطراف می‌پرد، باید نتایج آن اقدام را بسیار بسیار جدی بگیریم.
دو تصویر جعلی که به راحتی قابل رد بودند 500 میلیارد دلار ناپدید شدند. دفعه بعد، تصاویر می توانند قابل قبول تر، توزیع معتبرتر، و اثر ماندگارتر باشند.
همچنین هیچ چیزی وجود ندارد که بگوید هرگونه آسیب آتی ایجاد شده توسط هوش مصنوعی به اقتصاد محدود خواهد شد. علیرغم برخی هشدارهای وحشتناک در سال‌های 2016 و 2020، این انتخابات عمدتاً عاری از فیلم‌ها و ضبط‌های صوتی «دیپ جعلی» با استفاده از صداهای تغییر یافته باقی ماند. در سال 2024 چنین نخواهد بود. می توانید روی آن شرط بندی کنید.
هر چیزی که قبلاً حداقل به دانش اندکی و چند ساعت تلاش نیاز داشت، اکنون بسیار بسیار آسان تر است. در واقع، به قدری آسان است که کلاهبرداران معمولی می توانند نه تنها یک شماره تلفن، بلکه صدای شخص یک دوست یا خویشاوند را هنگام تماس برای توضیح اینکه چرا به شدت نیاز به تزریق پول نقد دارند، جعل کنند.
دفعه بعد که کسی نواری مانند نوار 2012 تولید می کند میت رامنی جرات خود را به اهداکنندگان میلیونر یا حتی مال دونالد ترامپ ویدیوی 2016 «دسترسی به هالیوود»، چگونه متوجه می شوید که واقعی است؟ نامزدها فقط هر گونه افشاگری ناخوشایند را جعلی اعلام می کنند. اگر کسی امروز ویدئویی برای فاکس نیوز بفرستد که ظاهراً جو بایدن را نشان می‌دهد که در ازای یک میلیارد دلار با چین معامله می‌کند تا تایوان را ترک کند، فکر می‌کنید آن را نشان نمی‌داد؟ تصور کنید داستان‌هایی که می‌توانستند بسازند و برای لپ‌تاپ هانتر بایدن تهیه کنند.
با در نظر گرفتن زمان کافی، کارشناسان می توانند تشخیص دهند که آیا یک تصویر، ویدئو یا صدا ضبط شده جعلی است، اما نه قبل از اینکه به طور گسترده منتشر شود. هر ردی را می توان با جعلیات بیشتری مقابله کرد. و همه بی‌حرمتی‌ها در جهان، افرادی را که علاقه ایدئولوژیکی به باور آن جعلی‌ها دارند، تحت تأثیر قرار نمی‌دهد، یا مانع از گسترش آن تقلبی‌ها نمی‌شود.
اتفاقی که روز دوشنبه افتاد آنقدر سریع گذشت که از دست دادن آن آسان بود، و حتی راحت تر رد شد. ما نمی توانیم این کار را انجام دهیم.
هنگامی که رهبران شرکت‌های هوش مصنوعی هفته گذشته در مقابل کنگره ظاهر شدند، عملاً التماس کردند که قانون‌گذاری شوند.
در حال حاضر، انسان ها هم کد پشت AI های مدل بزرگ و با هدف محدود را که بر چرخه اخبار تسلط دارند، می نویسند و درک می کنند. اما حتی با این وجود، درک تصمیماتی که این سیستم ها بر اساس تعامل میلیون ها یا میلیاردها سندی که به آنها داده شده است برای انسان ها غیرممکن است. خیلی زود، درک ما حتی به خود کد نیز تعمیم نخواهد یافت، زیرا کد توسط سایر سیستم‌های هوش مصنوعی نوشته و اصلاح می‌شود.
تهدید ناشی از این سیستم ها نگرانی آینده دور نیست. این یک سناریوی علمی تخیلی نیست که شامل اسکای نت یا قیام ربات باشد. این دقیقاً در اینجا، مشکلی است که در آن این سیستم ها از قبل به اندازه کافی قدرتمند هستند تا میلیون ها شغل را حذف کنند، جهت اقتصاد را تغییر دهند، و نتیجه یک انتخابات را تحت تأثیر قرار دهند. آنها مانند چکش ابزار هستند. مانند یک چکش، آنها همچنین می توانند سلاح باشند.
تا زمانی که قوانینی را روی این سیستم ها وضع نکنیم، چه بخواهیم چه نخواهیم، همه بخشی از آزمایش هستیم. اگر آن مقررات را تقریباً بلافاصله وضع نکنیم، احتمال بسیار خوبی وجود دارد که خیلی دیر شود.
دیمیتری از WarTranslated کار اصلی ترجمه ساعت‌ها ویدیو و صوتی روسی و اوکراینی را در طول حمله به اوکراین انجام می‌دهد. او به مارکوس و کری از لندن می‌پیوندد تا درباره چگونگی شروع این کار با جستجو در منابع مختلف صحبت کند. او یکی از تنها افرادی است که اطلاعات را برای مخاطبان انگلیسی زبان ترجمه می کند. دیمیتری از همان ابتدا جنگ را دنبال می کرد و روند تکامل زبان و اعزام ها را با پیشرفت جنگ تماشا کرده است.
