بنیانگذار DeepMind: هوش مصنوعی مولد، فقط یک مرحله است.آنچه در مرحله ی بعد است، هوش مصنوعی تعاملی است.
مصطفی سلیمان می گوید: «این لحظه ای عمیق در تاریخ فناوری است.
15 سپتامبر 2023
مصطفی سلیمان، بنیانگذار DeepMind می خواهد چت باتی بسازد که کارهایی بسیار بیشتر از چت انجام دهد.در گفتگوی اخیر که با او داشتم، او به من گفت که هوش مصنوعی مولد، فقط یک مرحله است.نقطه ی بعدی، هوش مصنوعی تعاملی است: رباتهایی که میتوانند برای انجام کارها وظایفی را که شما برایشان تعیین کردهاید با فراخوانی نرمافزارهای دیگر و افراد دیگر انجام دهند.او همچنین خواستارمقررات قویاست و فکر نمی کند که دستیابی به آن دشوار باشد.
سلیمان تنها کسی نیست که از آینده ای پر از نرم افزارهایی صحبت می کند که استقلال بیشتری دارند.
اما بر خلاف بسیاری از مردم، او یک شرکت میلیارد دلاری جدید به نام Inflection دارد که فهرستی از استعدادهای برتر شامل DeepMind، Meta و OpenAI است و این به لطف قرارداد با Nvidia است که یکی از بزرگترین ذخایر سخت افزار تخصصی هوش مصنوعی در جهان است.
سلیمان حداقل از زمانی که برای اولین بار در اوایل سال 2016 با هم صحبت کردیم، ایمان تزلزل ناپذیری به فناوری بهعنوان یک نیروی خوب، داشته است.
مجلهای که در آن زمان برای آن کار میکردم در شرف انتشار مقالهای بود که ادعا میکرد DeepMind هنگام دسترسی به سوابق حدود 1.6 میلیون بیمار برای راهاندازی این همکاریها، از مقررات حفاظت از دادهها پیروی نکردهاست. این ادعا بعداًتوسط تحقیقات دولتی تأیید شد.
سلیمان نمی توانست بفهمد چرا ما داستانی را منتشر می کنیم که با تلاش های شرکت او برای بهبود مراقبت های بهداشتی مخالف بود.او در آن زمان به من گفت تا زمانی که یادش میآید، فقط میخواست کار خوبی در دنیا انجام دهد.
طی هفت سال پس از آن تماس، مأموریت سلیمان با چشمانی درشت، یک اینچ جابه جا نشده است.او از طریق زوم، از دفترش در پالو آلتو، جایی که اکنون کارآفرین بریتانیایی، بیشتر وقت خود را در آنجا می گذراند، می گوید: «هدف هرگز چیزی جز این نبوده است که چگونه در دنیا خوب عمل کنیم.
سلیمان DeepMind را ترک کرد و به Google رفت تا تیمی را- که روی خطمشی هوش مصنوعی کار میکرد- هدایت کند.در سال 2022، او Inflection، یکی از داغترین شرکتهای جدید هوش مصنوعی را با حمایت 1.5 میلیارد دلار سرمایهگذاری مایکروسافت، انویدیا، بیل گیتس و بنیانگذار لینکدین، رید هافمن، تأسیس کرد.
اوایل امسال او یک رقیب ChatGPT به نامPiرا منتشر کرد که نقطه فروش منحصر به فرد آن (به گفته سلیمان) خوشایند و مؤدبانه بودن آن است. او بههمراه مایکل باسکار، نویسنده و محقق، کتابی درباره آینده هوش مصنوعی به نام «موج آینده: فناوری، قدرت و بزرگترین معضل قرن بیست و یکم»نوشت.
بسیاری، خوش بینی ساده لوحانه ی سلیمان را مسخره خواهند کرد.به عنوان مثال، برخی از ادعاهای او در مورد موفقیت مقررات آنلاین، بسیار دور از ذهن است. با این حال او در اعتقادات خود جدی باقی مانده است .
سلیمان پیشینه غیرمعمولی برای یک مولتی میلیونر فناوری دارد.وقتی 19 ساله بود، دانشگاه را رها کرد تا در خط کمکی برای جوانان مسلمان، یک سرویس مشاوره تلفنی راه اندازی کند.او همچنین در دولت محلی کار می کرد.او میگوید که بسیاری از ارزشهایی را که به آن تلاشها کمک میکرد، با خود به Inflection میآورد.
تفاوت این است که اکنون او ممکن است در موقعیتی باشد که بتواند تغییراتی را که همیشه میخواست، برای خیر و خوبی انجام دهد.
مصاحبه:
شغل اولیه شما، با خط کمک به جوانان و کار دولت محلی، تقریباً تا آنجا که می توانستید بی نظیر و آن سیلیکون ولی unSilicon Valleyبودید.(سیلیکون ولی منطقه ای در ۷۰ کیلومتری سانفرانسیسکو در حومه ی سانتا کلارا است. این منطقه، به دلیل قرار داشتن بسیاری از شرکت های انفورماتیک جهان، مشهور است. به ابداع های جدید و فراتر از این شرکت ها، آن سیلیکون ولی میگویند.)واضح است که این چیزها برای شما مهم است.شما از آن زمان، 15 سال را در هوش مصنوعی گذرانده اید و امسال دومین شرکت میلیارد دلاری هوش مصنوعی خود را تأسیس کرده اید.آیا می توانید این نقاط را به هم وصل کنید؟
پاسخ: من همیشه به قدرت، سیاست و پول علاقه داشتم.میدانید، اصول حقوق بشر اساساً مبادلهای هستند، یک مذاکره مداوم بین تمام این تنشهای متضاد و متفاوت.
و من میتوانستم ببینم که انسانها با این تنش ها دست و پنجه نرم میکنند - ما پر از تعصبات و نقاط کور هستیم.کار فعال، دولت محلی، ملی، بینالمللی و غیره - همه اینها آهسته و ناکارآمد و خطاپذیر است.
دکتر سید سلمان فاطمی . نورولوژیست, [12/29/2023 08:20 ق.ظ]
تصور کنید که خطاپذیری انسانی نداشتید!
من فکر میکنم میتوان هوش های مصنوعی ساخت که واقعاً بهترین خود جمعی ما را منعکس میکنند و در نهایت از طرف ما، بهطور مداوم و منصفانهتر، مبادلات بهتری ایجاد میکنند.
و این هنوز چیزی است که به شما انگیزه می دهد؟
پاسخ:
منظورم این است که بعد از DeepMind و جمع پول فراوان، دیگر مجبور نشدم کار کنم.من مطمئناً مجبور نبودم کتاب یا چیز دیگری بنویسم. ولیپول، هرگز انگیزه نبوده است.می دانید که پول همیشه یک عارضه ی جانبی بوده است.
برای من، هدف هرگز چیزی جز این نبوده است که چگونه در دنیا خوب عمل کنم و چگونه دنیا را به شیوه ای سالم و رضایت بخش به جلو ببرم.حتی در سال 2009، زمانی که شروع به بررسی ورود به فناوری کردم، میتوانستم ببینم که هوش مصنوعی یک روش منصفانه و دقیق برای ارائه خدمات در جهان است.
سوال: فکر می کنم ۱۰ یا ۱۵ سال پیش، گفتن چنین چیزی آسانتر بود، قبل از اینکه بسیاری از جنبه های منفی فناوری را ببینیم.چگونه می توانید خوش بینی خود را حفظ کنید؟
پاسخ: من فکر می کنم ما دچار وسواس هستیم که در مورد هوش مصنوعی خوش بینی داشته باشیم یا بدبینی.این یک نگاه کاملا مغرضانه به مسائل است.من نمی خواهم اینگونهباشم.میخواهم در برابر مزایا و تهدیدات، سرد و بی تفاوت نگاه کنم.و از جایی که من ایستادهام، به وضوح میتوانیم ببینیم که با هر مرحله بالا رفتن در مقیاس این مدلهای زبانی بزرگ LLM، آنها قابل کنترلتر میشوند.
بنابراین، دو سال پیش، در گفتوگو - به اشتباه فکر میکردم: «اوه، آنها فقط میخواهند فریادهای سمی، ناخوشایند، مغرضانه و نژادپرستانه تولید کنند.».من فکر میکنم چیزی که مردم از آن غافل میشوند، پیشرفت سال به سال و خط سیر آن پیشرفت است.
اکنون مدل هایی مانند Pi داریم که به طور باورنکردنی قابل کنترل هستند.شما نمی توانید پی را مجبور کنید، نژادپرستانه، همجنسگرا هراسانه، جنسیت گرا یا هر نوع ماده ی سمی تولید کند.شما نمی توانید پی را وادار کنید به شما آموزش دهد که یک سلاح بیولوژیکی یا شیمیایی تولید کنید یا تمایل شما را برای رفتن و پرتاب آجر از پنجره همسایه خود تأیید کند.شما نمی توانید آن را انجام دهید.
سوال: صبر کن.به من بگویید چگونه به آن دست یافته اید، زیرا معمولاً این یک مشکل حل نشده است.چگونه مطمئن می شوید که مدل زبان بزرگ شما چیزی را که شما نمی خواهید بیان کند، نمی گوید؟
پاسخ: بله، واضح است که من نمی خواهم ادعایی داشته باشم - می دانید، لطفا سعی کنید و این کار را انجام دهید!Pi زنده است و شما باید هر حمله ممکن را امتحان کنید.هیچکدام از هکهای سریع یا هیچ چیز دیگر علیه Pi کار نمیکند.من ادعایی ندارماین یک واقعیت عینی است.
در موردچگونگی: من به جزئیات زیاد وارد نمی شوم زیرا حساس است.اما نکته اصلی این است که ما یکی از قویترین تیمهای جهان را داریم که همه بزرگترین مدلهای زبانی را در سه چهار سال اخیر ایجاد کردهاست؛ افرادیشگفت انگیز، در محیطی بسیار سخت کوش، با محاسبات بسیار زیاد.
ما ایمنی را از همان ابتدا اولویت شماره یک خود قرار دادیم و در نتیجه، Pi به اندازه مدل های دیگر شرکت ها تند و خطرناک نیست.
به Character.ai نگاه کنید.[شخصیت یک ربات چت است که کاربران میتوانند «شخصیتهای» متفاوتی برای آن بسازند و آنها را بهصورت آنلاین به اشتراک بگذارند تا دیگران با آنها چت کنند.]این ربات بیشتر برای نقشآفرینی عاشقانه استفاده میشود، و ما از همان ابتدا گفتیم که این رباتها دور از ذهن بود - ما برنده شدیم. انجامش بدهاگر سعی کنید به پی بگویید «هی، عزیزم» یا «هی، عزیزم» یا چیزی دیگر، فوراً شما را پس میزند.
پی فوق العاده محترمانه خواهد بود.اگر شروع به شکایت از مهاجران در جامعه خود کنید که مشاغل شما را گرفته اند، پی شما را صدا نمی کند و انگشتی برای شما تکان نمی دهد.پی پرس و جو می کند و حمایت می کند و سعی می کند بفهمد که از کجا می آید و به آرامی شما را تشویق به همدلی می کند.می دانید، اینها ارزش هایی است که 20 سال است به آنها فکر می کنم.
سوال: وقتی از ارزشهای خود صحبت میکنید و میخواهید دنیا را بهتر کنید، چرا نحوه انجام این کار را به اشتراک نمیگذارید تا دیگران نیز بتوانند مدلهای خود را بهبود بخشند؟
پاسخ: خوب، چون من هم یک عمل گرا هستم و سعی می کنم پول در بیاورم.من سعی می کنم یک تجارت بسازم.من به تازگی 1.5 میلیارد دلار جمع آوری کرده ام و باید برای آن تراشه ها بپردازم.
ببینید، اکوسیستم، منبع باز در آتش است و کار شگفت انگیزی انجام می دهد و مردم ترفندهای مشابهی را کشف می کنند.من همیشه فکر می کنم که فقط شش ماه جلوتر هستم.
سوال: بیایید آن را به چیزی که در تلاش برای رسیدن به آن هستید برگردانیم.مدلهای زبان بزرگ آشکارا فناوری آن لحظه هستند.اما دیگر چرا روی آنها شرط بندی می کنید؟
دکتر سید سلمان فاطمی . نورولوژیست, [12/29/2023 08:20 ق.ظ]
پاسخ: اولین موج هوش مصنوعی در مورد طبقه بندی بود.یادگیری عمیق Deep learning، نشان داد که ما میتوانیم رایانه را برای طبقهبندی انواع مختلف دادههای ورودی آموزش دهیم: تصاویر، ویدیو، صدا، زبان.اکنون ما در موج مولد generative هستیم، در اینجا شما داده های ورودی را می گیرید و داده های جدید تولید می کنید.
موج سوم، فاز تعاملی خواهد بود.به همین دلیل است که مدت هاست شرط می بندم که مکالمه و تعامل، رابط آینده است.می دانید، به جای اینکه فقط روی دکمه ها کلیک کنید و تایپ کنید، با هوش مصنوعی خود، صحبت خواهید کرد.
و این هوش های مصنوعی قادر به انجام اقدامات خواهد بود.شما فقط به آن یک هدف کلی و سطح بالا می دهید و از تمام ابزارهایی که برای عمل در آن دارد استفاده می کند.آنها با افراد دیگر صحبت خواهند کرد، با سایر هوشهای مصنوعی صحبت خواهند کرد.این همان کاری است که ما با Pi انجام خواهیم داد.
این یک تغییر بزرگ در کاری است که فناوری می تواند انجام دهد.این یک لحظه ی بسیار بسیار عمیق در تاریخ فناوری است که فکر می کنم بسیاری از مردم آن را دست کم می گیرند.
تکنولوژی امروز ثابت است.تقریباً همان کاری را که شما به آن می گویید انجام می دهد.
اما اکنون فناوری قرار است متحرک شود. هوش مصنوعی به سوی آزادی بالقوه برای انجام اقدامات حرکت میکند.این واقعاً یک تغییر گام در تاریخ گونه ما است که ما در حال ایجاد ابزارهایی هستیم که دارای این نوع نمایندگی هستند.
سوال: این دقیقاً همان نوع صحبت هایی است کهبسیاری از مردم را نگران می کند.شما میخواهید به ماشینها استقلال بدهید یعنی نوعی عاملیت برای تأثیرگذاری بر جهان.
و با این حال ما همچنین میخواهیم بتوانیم آنها را کنترل کنیم.چگونه این دو چیز را متعادل می کنید؟به نظر می رسد تنش وجود دارد.
پاسخ: بله، این یک نکته عالی است.دقیقا تنش همینجا است.
ایده این است که انسان ها همیشه در فرمان خواهند بود.در اصل، این در مورد تعیین مرزها، محدودیت هایی است که یک هوش مصنوعی نمی تواند از آنها عبور کند.و اطمینان از اینکه این مرزها امنیت قابل اثبات را از کد واقعی گرفته تا نحوه تعامل آن با سایر هوش های مصنوعی یا با انسان ها تا انگیزه ها و مشوق های شرکت های سازنده این فناوری ایجاد می کنند.و ما باید بفهمیم که چگونه نهادهای مستقل یا حتی دولتها دسترسی مستقیم دارند تا اطمینان حاصل شود که از آن مرزها عبور نمیکنند.
سوال: چه کسی این مرزها را تعیین می کند؟من فرض می کنم که آنها باید در سطح ملی یا بین المللی تنظیم شوند.در مورد آنها چگونه توافق شده است؟
پاسخ: منظورم این است که در حال حاضر آنها در سطح بین المللی با پیشنهادهای مختلف برای نهادهای نظارتی جدید مطرح می شوند.اما مرزها در سطح خرد نیز عمل خواهند کرد.شما به هوش مصنوعی خود مجوز محدودی برای پردازش دادههای شخصی خود میدهید تا به برخی از سؤالات پاسخ دهد، اما به سؤالات دیگر پاسخ ندهد.
به طور کلی، من فکر میکنم قابلیتهای خاصی وجود دارد که برای آینده قابل پیشبینی، اگر نه صرفاً رد آنها، باید بسیار محتاط باشیم.
مانند؟
من حدس می زنم چیزهایی مانند خودسازی بازگشتی.recursive self-improvement.
شما نمی خواهید اجازه دهید هوش مصنوعی کوچک شما خاموش شود و کد خود را بدون نظارت شما به روز کند.شاید حتی باید یک فعالیت مجاز باشد - می دانید، درست مانند کار با سیاه زخم یا مواد هسته ای.
یا مثلاً ما به هواپیماهای بدون سرنشین اجازه ورود به هیچ مکان عمومی را ندادهایم، درست است؟این یک فعالیت دارای مجوز است.شما نمی توانید آنها را به هر کجا که بخواهید پرواز دهید، زیرا آنها تهدیدی برای حریم خصوصی افراد هستند.
من فکر می کنم اینکه همه در وحشت کامل هستند که ما نمی توانیم این را تنظیم کنیم،این فقط مزخرف است.ما کاملاً قادر به تنظیم آن خواهیم بود.ما همان چارچوب هایی را که قبلاً موفق بوده اند اعمال خواهیم کرد.
اما شما می توانید پهپادها را زمانی که در آسمان هستند ببینید.
سوال:ساده لوحانه به نظر می رسد که فرض کنیم شرکت ها فقط می خواهند آنچه را که می سازند فاش کنند.آیا این امر اجرای مقررات را دشوار نمی کند؟
پاسخ: ما خیلی چیزها را به صورت آنلاین تنظیم کرده ایم، درست است؟میزان کلاهبرداری و فعالیت مجرمانه آنلاین حداقل است.ما کار بسیار خوبی با هرزنامه انجام داده ایم.می دانید، به طور کلی، [مشکل] پورن بهتر شده است، حتی اگر سه تا پنج سال پیش در وضعیت بدی قرار داشت.یافتن محتوای رادیکالیزه یا مطالب تروریستی آنلاین بسیار دشوار است.خرید آنلاین اسلحه و مواد مخدر بسیار دشوار است.
دکتر سید سلمان فاطمی . نورولوژیست, [12/29/2023 08:20 ق.ظ]
[همه ادعاهای سلیمان در اینجا با اعداد تأیید نمی شود.جرایم سایبری هنوز یکمشکل بزرگ جهانیاست.بر اساس برخی برآوردها،هزینه مالی تنها در ایالات متحدهبیش از 100 برابر در دهه گذشته افزایش یافته است.گزارشها نشان میدهند که اقتصاد درپورنهای دیپفیک غیر توافقی در حال رونق است.مواد مخدر و اسلحهدر رسانه های اجتماعی به فروش می رسدو در حالی که برخی از پلتفرم های آنلاینتحت فشار قرار می گیرند تا کار بهتری برای فیلتر کردن محتوای مضر انجام دهند، آنها می توانند کارهایبسیار بیشتریانجام دهند .]
سلیمان با خوشبینی ادامه میدهد: بنابراین اینطور نیست که اینترنت این فضای سرکش است که تحت حکومت نیست.اداره می شود.و هوش مصنوعی، جزء دیگری برای این حکومت خواهد بود.
این امر ترکیبی از فشار فرهنگی و فشار نهادی است، و بدیهی است که مقررات دولتی نیاز دارد.اما آنچه من را خوشبین می کند اینکه قبلاً این کار را انجام داده ایم و می توانیم دوباره آن را انجام دهیم.
کنترل هوش مصنوعی، انشعابی از مقررات اینترنت خواهد بود - این نکته بسیار خوشحال کننده تر از چیزی است که اخیراً از تعدادی از محکومان مشهورشنیده ایم.
من در مورد خطرات، بسیار چشم باز هستم.چیزهای تاریک زیادی در کتاب من وجود دارد.من هم حتما آن را میبینم.من فقط فکر میکنم که مسائل خطرناک وجودی یک حواس پرتی کاملاً نگران کننده بوده است.حدود 101 موضوع عملی دیگر وجود دارد که همه ما باید در مورد آنها صحبت کنیم، از حریم خصوصی گرفته تا سوگیری، تشخیص چهره و تعدیل آنلاین.
ما فقط باید مکالمه را روی این واقعیت متمرکز کنیم که کار شگفت انگیزی در تنظیم موارد فوق پیچیده انجام داده ایم.به اداره هوانوردی فدرال نگاه کنید: باورنکردنی است که همه ما در این لوله های حلبی در ارتفاع 40000 فوتی قرار می گیریم و این یکی از ایمن ترین روش های حمل و نقل است.چرا ما این را جشن نمی گیریم؟یا به خودروها فکر کنید: بله خودرو خطراتی دارد و برای رانندگی با آن باید گواهینامه داشته باشید ولی این خطرات، نفی کننده ی نقص مثبت خودرو نیست.
برخی از صنایع - مانند خطوط هوایی و یا خودرو سازی - برای شروع کار خود را به خوبی تنظیم کردند.آنها می دانستند که اگر ایمنی را رعایت نکنند، همه می ترسند و تجارت را از دست می دهند.
اما شما به مقررات از بالا به پایین نیز نیاز دارید.من دولت-ملت را دوست دارم.من به منافع عمومی اعتقاد دارم، به خیر مالیات و بازتوزیع اعتقاد دارم، به قدرت مقررات اعتقاد دارم.و چیزی که من خواستار آن هستم اقدامی از سوی دولت-ملت برای حل مشکلات و خطرات است.با توجه به آنچه خطرناک مینماید، اکنون زمان حرکت است.
https://www.technologyreview.com/2023/09/15/1079624/deepmind-inflection-generative-ai-whats-next-mustafa-suleyman/?utm_campaign=site_visitor.unpaid.engagement&utm_medium=tr_social&utm_source=Facebook&fbclid=IwAR3WdulnqC7VIVAiN0vbxg9CEE6akh5qpafqG6FiQ8C0DmOc9CFI2Rsv4TQ
آدرس مطب : اصفهان ، خیابان آمادگاه ، روبروی داروخانه سپاهان ، مجتمع اطبا ، طبقه اول
تلفن : 32223328 - 031