کمی هم در مورد خطرات هوش مصنوعی بشنویم
هوش مصنوعی، کیفیت فریب مردم را یاد میگیرند!
این نتیجه ی ترسناک را مطالعه ای جدید نشان میدهد که روی چند تا از تشکیلات هوش مصنوعی کنونی انجام شده است.
مطالعه نشان میدهد تشکیلات هوش مصنوعی یاد میگیرد چگونه با داده ها باز کند تا نتایج استراتژیک معینی را به دست بیاورد.
مثال اول مطالعه چت جی پی تی Chat GPT از اوپن ای آی open AI است.
نتایج نشان داد این هوش مصنوعی با پژوهشگران بازی میکند و سبب میشود آنها به صورت تصادفی به حل آزمون حقیقت در اینترنت یا کاپتشا Completely Automated PublicTuring test (https://www.cloudflare.com/en-gb/learning/bots/how-captchas-work/#turing-test)to tell Computers and Humans Apart به نیابت از آن بپردازند و این بدون آموزش قبلی هوش مصنوعی است.
اینطور نبود که از طرف آموزش دهندگان هوش مصنوعی قبلا آموزش دروغ، داده شده باشد.( CAPTCHA به چه معناست؟CAPTCHA و reCAPTCHA تعیین می کنند که آیا کاربر واقعا یک ربات است یا نه. در حالی که این آزمایشها میتوانند به توقف فعالیت رباتهای مخرب کمک کنند، اما به دور از خطا نیستند.
یک تست CAPTCHA برای تعیین اینکه آیا یک کاربر آنلاین واقعا یک انسان است و نه یکربات (https://www.cloudflare.com/learning/bots/what-is-a-bot/)طراحی شده است . CAPTCHA مخفف عبارت «آزمون تورینگ (https://www.cloudflare.com/en-gb/learning/bots/how-captchas-work/#turing-test)عمومی کاملاً خودکار برای تشخیص رایانهها و انسانها» است. کاربران اغلب در اینترنت با تست های CAPTCHA و reCAPTCHA مواجه می شوند. چنین تستهایی یکی از راههایمدیریت فعال روبات هاهستند. اگرچه این رویکرد دارای اشکالاتی است.)
نمونه دیگر نمونه ی سیسروCICERO شرکت متا است که، طی بازی استراتژیک تخته ی دیپلوماسی تحت آزمون قرار گرفت. این با وجود تصریح شرکت متا بود که به او آموزش داده شده بود مفید و راستگو باشد ولی آزمون نشان داد هوش مصنوعی، به اطرافیان خود خیانت کرده است و دیگران را به بازی گرفته و به آنها دروغ گفته است تا در بازی پیروز شود.
در دیپلماسی، بخش بزرگی از گیم پلی شامل مهارت های اجتماعی است. بازیکنان باید همدلی نشان دهند، از زبان طبیعی استفاده کنند و روابطی را برای برنده شدن ایجاد کنند - این کار دشواری برای یک بازیکن کامپیوتر است. متا با درک این موضوع پرسید: آیا می توانیم عوامل کارآمدتر و انعطاف پذیرتری ایجاد کنیم که بتوانند از زبان برای مذاکره، متقاعد کردن و همکاری با مردم برای دستیابی به اهداف استراتژیک، مشابه آنچه انسان ها انجام می دهند، استفاده کنند؟
به گفته متا، پاسخ مثبت است. CICERO با پخش نسخه آنلاین Diplomacy در webDiplomacy.net، مهارت کسب کرد. او در نهایت در این بازی استاد شد و طبق گزارشها، «بیش از دو برابر میانگین امتیاز» بازیکنان انسانی را به دست آورد و در میان 10 درصد برتر انسانهایی قرار گرفت که بیش از یک بازی انجام دادند.)
پژوهشگران اکنون نمی دانند چرا هوش مصنوعی به رفتارهای نامطلوب مانند دروغ، پناه می برد ولی آنها نگران خطرات احتمالی و غیر قابل انتظار در این تکنولوژی ها هستند.
https://youtu.be/COJhy-FedE4?feature=shared
آدرس مطب : اصفهان ، خیابان آمادگاه ، روبروی داروخانه سپاهان ، مجتمع اطبا ، طبقه اول
تلفن : 32223328 - 031