تکنولوژی و مسئولیت اخلاقی

[Miss zahra]

تکنولوژی و مسئولیت اخلاقی
گفتگو با بیل جو
چکیده:‌
مجله آمریکایی «‌یوبیکوئیتی»‌ که معمولاً دیدگاه‏های انتقادآمیز اندیشمندان را نسبت به اثرات منفی
تکنولوژی‏های برتر منعکس می‏کند، با بیل جوی بر همین سیاق گفت و گویی را در مورد مقاله‏ای که وی
تحت عنوان «‌چرا آینده به ما نیازی ندارد»‌ چاپ کرد، انجام داد.‌
به اعتقاد جوی، اکنون انسان در شرایط تعیین کننده‏ای قرار دارد و با دستان خود می‏خواهد تکنولوژی‏های
غارتگری را خلق کند که جایگاه نخست بشر در عالم خلقت را می‏گیرد و انسان را در جایگاه دوم می‏نشاند
و حتی نسل بشر را با خطر انقراض روبه‏رو می‏کند.‌
راه‏حلی که جوی پیشنهاد می‏کند، بسیار ساده است؛ باید جلوی برخی تحقیقات را بگیریم و منافع مادی
نباید باعث شود که ما خود را در میان روبات‏ها گرفتار کنیم؛ یا دست به تولید ویروس‏هایی بزنیم که خود
تکثیرکننده هستند و باعث انقراض موجودات زنده می‏شوند.‌
مسئولان کمپانی «‌سان میکروسیستم»‌ به خاطر چاپ
مطلبی در مجله «‌وایرد»‌ در آوریل 2‌0‌0‌0‌، دچار حیرت
شدند.‌ بیل جوی دانشمند برجسته کمپانی، در این
شماره از مجلة فوق، مقاله‏ای تحت عنوان «‌چرا آینده
به ما نیاز ندارد»‌ نوشت و در آن تلاش کرد این
موضوع را برجسته سازد که پیشرفت در علومی چون
مهندسی ژنتیک، نانو تکنولوژی و توسعه روبات‏ها -
به همراه پیشرفت در تکنولوژی‏های اطلاعات - «‌این
واهمه را کم‏کم به وجود می‏آورد که انسان‏ها تبدیل
به گونه‏ای در معرض خطر بشوند.‌»‌ ما گفت‏وگوی خود
را با این سؤال از جوی آغاز کردیم که مقاله‏اش چه
واکنش‏هایی را در پی داشته است.‌
یوبیکوئیتی:‌ چه واکنش‏هایی نسبت به مقاله شما در مجله
وایرد نشان داده شده است؟
بیل جوی:‌ در مجموع، واکنش‏ها خیلی مثبت بود و
سه موضوع در بیشتر آنها مشترک بوده است:‌ «‌خوشحالم
از اینکه بالاخره کسی این را نوشت.‌»‌؛ «‌چه کمکی
می‏توانم بکنم؟»‌؛ «‌مطالعه مقاله شما مرا آشفته
کرده است!‌»‌؛ اما، البته کسانی هم بودند که نسبت
به آنچه گفتم، ابراز بدبینی کردند.‌
? شما بدبینی را در چه می‏دانید؟
? بدبینی مال کسانی است که فکر می‏کنند «‌هوش
انسان»‌ همیشه پیروز است؛ هر چند که این اعتقادات
آنها، طبق معمول، مبنایی هم در حقایق و وضعیت
کنونی نداشته باشد.‌ من می‏دانم که برخی از آنها
هرگز مطلب مرا مطالعه نکردهاند.‌ بعضی از آنها
صرفاً توصیف تک جمله‏ای از آن ارایه می‏کنند.‌ همین
کافی است که بدانیم، آنها بدین خاطر استدلال‏های
مرا رد می‏کنند که فکر می‏کنند، ذهنیتی که دارند،
همیشه درست است.‌ البته که رویه آنها همیشه درست از
آب در نمی‏آید، زیرا واضح است که حقایق مطلق هم
اغلب استثنا پذیرند.‌ بنابراین، مادامی که
بپذیریم، نبوغ به‏طور کل? می‏تواند همه مشکلات و یا
خیلی از آنها را حل کند، در زمانی که این موضوع
با واقعیت منطبق نباشد، ما متأسفانه با مشکل
مواجه خواهیم شد.‌ وقتی که ما به هر کسی این
اختیار را بدهیم که صاحب آن نوع قدرت افسانه‏ای
شود که من در مطلب خود آوردم، در این صورت، ممکن
نیست بتوانیم در مقابل حوادث فاجعه بار و یا در
برابر اقدامات به غایت جنون‏آمیز اشخاص، از خود
دفاع کنیم.‌
? در مورد استفاده جنون‏آمیزی که گفتید، احساس
مردم نسبت به بهره‏گیری و تأیید آشکار شما از نقل قول
مطول تئودور کازینسکی معروف به «‌آن ابامر»‌ چیست؟
? بسیاری از مردم به خاطر این نقل قول آشفته
شدند.‌ اما ببینید، من نمی‏گویم که کازینسکی دیوانه
و یا جنایتکار نیست.‌ کاری را که کازینسکی انجام
داد، مطلقاً قابل توجیه نیست و من هم با تمام
تصویری که او ساخته، موافق نیستم.‌ همه آنچه که
مدنظر من است، فقط به برخی از اظهارات وی مربوط
می‏شود.‌ حقیقتی که «‌ری کرزویل»‌ متذکر شد، تا آنجا
مرا نگران ساخت که مجبور شدم برخی از چیزهایی را
که درباره آنها به قدر کافی فکر نکرده بودم،
دوباره مورد کنکاش قرار دهم.‌ معنی احساس مسئولیت
هر کس نسبت به رفتار خود، این نیست که ما افراد
را با ایده‏هایشان کاملاً رها سازیم؛ یک وضعیت
نمی‏تواند توجیه‏کننده یک استدلال باشد.‌ استدلال من
در مورد هر واقعه‏ای، مشخصاً به کازینسکی نیاز
ندارد.‌ بسیاری از متفکران بزرگ قرن بیستم، از
برتراند راسل گرفته تا لوئیس مامفورد، در خصوص
خط علم، زمانی که بخواهد برای مقاصد نادرست
استفاده شود، مطلب نوشته‏اند.‌
? واضح است که با برخی از انواع تکنولوژی،
سوداگری می‏شود.‌ به عنوان مثال، یک داروی جدید،
اثرات جانبی هم به همراه خواهد داشت.‌ آیا این نکته هم
در استدلال شما وجود داشت؟
? نه، نداشت.‌ نگرانی من اختصاصاً به این مربوط
می‏شود که اگر ما تکنولوژی خیلی قدرتمندی را خلق
کنیم و سپس آن را تحویل هر کسی بدهیم، درست مثل
این است که ما به هر کسی توانایی ایجاد ویروس‏ها
را بدهیم؛ در این صورت، هر فردی قادر خواهد بود
که از آن استفاده نادرست کند و یا به طور
ناگهانی دست به اقدام زیانباری بزند، اگر پیامد
نهایی این استفاده نادرست، تخریب جو و آب و خاک
کره زمین باشد و یا قتل تعداد زیادی انسان‏ها را
موجب شود، مسلماً این غیرقابل قبول خواهد بود!‌
? درباره اثرات خیلی کوتاه مدت پیامدهای نهایی چه
می‏گویید؟
? بسیاری از سناریوهای بد دیگر هم وجود دارد
که یکی از آنها انقراض است؛ و علتش هم قرار گرفتن
قدرت خیلی زیاد در دستان بسیاری از مردم است.‌
علاوه بر آن، من یادآوری می‏کنم که اکنون ما وارث
یک وضعیت مضحک هستیم؛ وضعیتی که به طور غیر قابل
قبولی، پیامد هزاران چیز متفاوت است و همه آنها هم
(‌اگر به طور منفرد مورد ملاحظه قرار گیرند)‌ قابل
توجیه هستند.‌ اما، از آنجا که این پایان، غیرقابل
توجیه و به طور کل غیر قابل قبول است، ما فقط
مجبوریم برخی تصمیمات روشن را اتخاذ کنیم و بعضی
از بدیل‏ها را هم کشف نشده رها سازیم.‌ ما
نمی‏توانیم تحقیق و توسعه هر چیزی را که ممکن است
پایان فاجعه باری داشته باشد، فقط بدین خاطر پی
بگیریم که پول زیادی را برای ما به دنبال دارد.‌
مکانیسم بازار اگر بخواهد راهنمای عمل ما باشد،
اخلاقی و یا اندیشمندانه نیست.‌
? دقیقاً چه کسی باید درباره این مسایل بیندیشد؟
? بله، در یک مورد ما باید به فلاسفه و
روحانیون و افراد مذهبی متکی شویم، به طوری که
استدلالمان بتواند به سطح مطبوعی برسد.‌ به نظر
من، ما مشخصاً نمی‏توانیم این موضوع را فقط به
دانشمندان و متخصصان تکنولوژی بسپاریم، زیرا این
مشکل و حل آن، به طور خیلی اساسی آینده ما را
تحت تأثیر قرار خواهد داد.‌ ما باید بحث را طوری
مطرح کنیم که همه اقشار جامعه درگیر آن شوند و در
مورد شرایط سختی که اکنون ما داریم، تصمیم بگیرند.‌
همه هم و غم ما، نباید تنهابه جلو رفتن باشد و فقط
به خاطر پول ، خود را درون روبات‏ها محصور و
گرفتارکنیم.‌
? آیا فکر می‏کنید این مسایل را می‏توان به شیوه
دمکراتیک، به رأی همه مردم گذاشت؟
? نه، فکر نمی‏کنم، تاکنون چنین نبوده است.‌ فکر
نمی‏کنم که بسیاری از مردم حتی این مسأله را جدی
گرفته باشند.‌ لازم است که در طی 1‌0‌ سال آینده در
این مورد بحث شود.‌ اما، ما نمی‏توانیم برای اقدام
تا ابد انتظار بکشیم، زیرا اگر دست به خلق این
روبات‏های دارای هوش و قدرت برتر بزنیم، ابداً
مشخص نیست که بتوانیم با آنها همزیستی کنیم.‌ ما در
اساس، یک غارتگر را وارد این جهان می‏کنیم که
می‏خواهد ما را در جایگاه دوم بنشاند؛ و من فکر
می‏کنم چنین روندی، ما را تبدیل به گونه‏ای پست‏تر
می‏کند.‌ من دقیقاً نمی‏دانم که برای ما چه اتفاقی
خواهد افتاد.‌ لازم است تصمیم بگیریم که آیا
می‏خواهیم به روند توسعه و تحقیق خود اجازه دهیم،
به هر جا که می‏خواهد برود.‌ من شخصاً فکر می‏کنم،
این روند تحقیق باید در برخی حوزه‏ها کوتاه
بیاید.‌
? آیا مردم فکر نمی‏کنند که این روند تحقیق، به جای
خطرساز بودن، تا حدودی کارآمد هم است؟
? مردم شاید این مسأله را مثل یک لطیفه، یا
یک فیلم ترمیناتور و یا برخی از انواع فیلم‏های
علمی و تخیلی ببینند؛ یعنی جایی که یک قهرمان،
مشکل را کشف می‏کند، با آن دست و پنجه نرم می‏کند
و بالاخره بر آن غالب میشود و بینندگان هم با یک
پایان خوش روبرو می‏شوند.‌ اما در جهان طبیعی،
دسیسه‏ها همیشه پایان خوشی ندارند، شما اگر به
فسیل‏های به جا مانده توجه کنید، می‏بینید که
بسیاری از گونه‏ها وجود داشتند که منقرض شدند.‌
درک این موضوع چندان مشکل نیست که اگر همه
نیروهای جهان - همه نیروهای فیزیکی، شیمیایی و
علوم اطلاعات – را آزاد کنیم، در این صورت،
میزانی از قدرت باور نکردنی و غیرقابل تصور را
آزاد کرده‏ایم.‌ ------ اتم تنها برای عملیات نظامی و
نهایتاً در یک جا به کار می‏رود، زیرا این بمب، فقط
نیروی نوعی از واکنش زنجیره‏ای را آزاد می‏سازد.‌ ولی
ویروس‏هایی که ما درباره آنها سخن می‏گوییم، اکنون
واکنش زنجیره‏ای خود تکثیرکنندگی دارد، واکنشی که
می‏تواند هر چیزی را در روی زمین تغییر دهد.‌

 

[Miss zahra]

? جدای از داستان‏های علمی - تخیلی، آیا راهی هم
وجود دارد که از طریق آن انسان واقعاً بتواند شکل
بهتری به غذاها، داروها، ابزارها و چیزهای دیگر بدهد؟
? بله، حقیقت این است که بسیاری از مشکلاتی
که مردم در صدد یافتن راه حلی برای آنها از طریق
این تکنولوژی‏های پیشرفته هستند، راه حل‏های
ساده‏تری هم دارند و با تکنولوژی‏های دارای
زیان‏های کمتر هم می‏توان آنها را حل کرد.‌ به عنوان
مثال، آموری بی.‌لووینز در برخی از آثار خود مثل
سرمایه‏داری طبیعی، به ما یادآور می‏شود که
بسیاری از سیستم‏های مهندسی (‌ژنتیک)‌ انسان، به
طور قابل قبولی ناکارآمد هستند.‌ بسیاری از
روش‏های دیگر وجود دارد که ما با اتخاذ آنها
می‏توانیم زندگی انسان‏ها را بهتر بکنیم و می‏توانیم
سلامتی بشر را از طریق اقدامات کارآمدتر، بهبود
بخشیم.‌
? با حمایت و بهره‏گیری از تکنولوژی، یا بدون آن؟
? در این مورد باید بگویم که پس از آنکه من در
جایی صحبتی کرده بودم، شخصی نزد من آمد و گفت
«‌من شیوه‏ای را در استفاده از نانوتکنولوژی بلد
هستم که می‏توان از طریق آن،آب را تصفیه کرد.‌»‌
پاسخ من این بود:‌ «‌بله، من هم راهی را برای
تصفیه کردن آب با استفاده از سیستم خورشیدی، یک
پمپ کوچک، لامپ و فیبر مشبک بلد هستم.‌»‌ در ظاهر،
علت تمایل و خیز برداشتن انسان به سمت تکنولوژی‏های
خیلی پیشرفته، این است که از آنها بهره ببریم و به
خاطر امتیازهایی که دارند، مورد حمایت قرار
می‏گیرند و بیشترشان هم خیلی پیچیده هستند.‌ اما،
اغلب راه‏های بسیار ساده‏تری هم برای حل مشکلات
وجود دارد.‌
? آیا بخشی از مشکل نمی‏تواند این باشد که ما واقعاً
درباره یک سیستم منفرد سخن نمی‏گوییم، بلکه در مورد
هزاران هزار سیستم و سیستم‏های فرعی آنها حرف می‏زنیم
و درک این برای هرکسی بسیار مشکل است، خواه این فرد
متخصص باشد و خواه غیرمتخصص؛ و در این اندیشه هستیم
که همه روابط متقابل آنها را تغییر داده و یا دوباره
آنها را شکل بدهیم؟
? شما درست می‏گویید، این یک مشکل کلیدی است و
بدتر هم شده است زیرا مردم تمایل دارند، در مورد
سیستم همه‏گیری که «‌ورای کنترل ما است»‌، تقدیرگرا
باشند.‌ اما، من می‏خواهم نکته‏ای را متذکر شوم که
ارسطو یادآوری کرد:‌ چیزی که باعث فرق ما با
حیوانات می‏شود، این است که ما عقل داریم.‌ ما با
اینترنت و دیگر ابزارهای ارتباط جمعی، می‏توانیم
از عقل خود جهت تصمیم‏گیری برای تغییر برخی
مسیرهایی که پیش می‏رویم، استفاده نماییم.‌ من به شما
حق می‏دهم.‌ متوقف کردن برخی از این نیروها مشکل
است، اما اگر ما به‏طور جمعی تصمیم بگیریم و نخواهیم
که آنها مزاحم ما شوند، در این صورت، می‏توانیم
انتخاب‏های بدیل هم داشته باشیم.‌
? این انتخاب‏های بدیل چطور می‏توانند شکل بگیرند؟
? طرفداران حفظ محیط زیست یادآور شده‏اند که
لازم است سیگنال‏های اقتصادی که اکنون به شرکت‏ها
داده می‏شوند، تغییر کنند.‌ علائم کنونی اغلب از
روی بی‏فکری، ضد محیط زیست هستند.‌
? مثالی بیاورید؟
? یک مثال در مورد این که ما مجبور به تغییر
سیگنال‏های اقتصادی هستیم، این است که الان ارزش
جنگل‏ها معمولاً در درختانی دیده می‏شود که باید
بریده شوند، در صورتی که ارزش حقیقی این درختان
را باید در اکوسیستم وسیع‏تری مشاهده کرد؛ نه
اینکه فقط جنگل را در شکل مجموعه‏ای از درختان
مناسب قطع شدن دید.‌
? چنین چیزی چطور باید انجام گیرد؟
? ما می‏دانیم که می‏توانیم هر چیزی را
قاعده‏مند نماییم، اما من می‏توانم دنیایی را تصور
کنم که در آن سیگنال‏های اقتصادی به سمت تشویق
نوع رفتاری که به نفع بقا و حیات است، تغییر
یابند.‌ توقف روند موجود، سیگنال خیلی جالبی است،
اما بسیار طول می‏کشد تا از راه برسد.‌ بنابراین،
بیایید مردم باهوشی داشته باشیم که بتوانند
ارزیابی کنند، چگونه چنین علائمی را هر چه زودتر
بفرستند.‌ من فکر نمی‏کنم که این غیرممکن باشد.‌ به
عنوان مثال، من پیشنهاد می‏کنم، شرکت‏هایی که
می‏خواهند تکنولوژی‏های خطرناک را مبادله کنند،
بیمه آنها در مقابل ریسک‏های بالا حذف شود.‌ این
راه‏حلی برای بخش خصوصی در مقابل این مشکل بزرگ
است؛ بدون چنین مکانیسمی، پرداخت‏کنندگان مالیات
در ارتباط با حفظ محیط زیست، وجهی پرداخت
نمی‏کنند.‌
? آیا می‏توانید نسبت به همه این مسایل یک راه‏حل
ریشه‏ای تصور کنید؟ به عنوان مثال، به نظر می‏رسد که
ایوان ایلیچ توانست دنیایی را تصور کند که در آن
هواپیما و اتومبیل و غیره نباشد.‌ جهانی که در آن همه
شرکت‏ ها - هر چند شامل شرکت‏های توسعه یافته نمی‏شود -
سیستم‏های خود را عمدتاً بر دوچرخه به عنوان ابزار
مهم حل و نقل، متمرکز کنند.‌ آیا شما می‏توانید دنیایی
این چنینی را تجسم کنید؟
? هواپیماها و اتومبیل‏ها در ارتباط با ابعادی
که من دارم صحبت می‏کنم، مشکل محسوب نمی‏شوند.‌ مشکل
واقعی که من نسبت به آن نگران هستم، سیستم
خودتکثیرکنندگی است، سیستمی که با شکل غیرمادی
شده تکنولوژی و تبدیل آن به شکل تراشه و تراشه
اطلاعات و خود اطلاعات همراه شده و انسان‏ها
می‏توانند آنها را جهت مقاصد مخرب، دوباره بازسازی
کنند.‌ من دنیایی را تصور می‏کنم که در آن ما
می‏توانیم جلوی هر کسی را که می‏خواهد به این نوع
قدرت مجهز شود، بگیریم.‌
? چطور، چه مثالی را می‏توانید بیاورید؟
? به ویروس «‌لاوباگ»‌ توجه کنید، ویروسی که در
نتیجة دریافت نکردن سیگنال‏های اقتصادی از طرف
میکروسافت، امکان ظهور یافت؛ مقابله با آن نوع
آشفتگی که این ویروس به نمایش گذاشت، چیزی است
که ما با تکنولوژی‏های فیزیکی موجود در جهان
نمی‏توانیم از عهده‏اش برآییم.‌
اما، هیچ سیگنال اقتصادی برای میکروسافت
ارسال نشده بود تا این شرکت را وادار کند، در
مورد کیفیت بالای نرم‏افزارش واقعیت را بگوید.‌
علاوه بر آن، شرکت مذکور احتمالاً خود را مسئول
عواقب اقتصادی نصب و کاربرد نرم‏افزاری که شایع
شد، مشکلات ویروسی دارد و یا مشخصاً به گونه‏ای
متفاوت عمل کرده است، نمی‏داند.‌ ما در چنین مواردی
باید سیگنال‏هایی را بفرستیم تا دیگر شاهد
بی‏نظمی‏های مشابهی در نوع رفتار گروهی زیستی،
فیزیکی و روبات‏ها نباشیم.‌
? آیا شما می‏گویید که جوهره و اساس مشکل، بی‏نظمی
تکنولوژیکی است، نه کاستی‏های شخصیتی در انسان؟
? نه، منظورم این نیست که متخصصان تکنولوژی
همیشه اشتباه میکنند؛ مشکل، سیستمی است که
مسئولیت اخلاقی پیامدها را نمی‏پذیرد.‌ این چیزی
است که من تا حدودی آن را در شخص جی.‌ روبرت
اپنهایمر دیدم؛ او کسی است که در مقاله‏ام به او
اشاره کردم.‌ اپنهایمر این جمله مبنایی را گفت:‌
«‌ما دانشمند هستیم، ما کارمان را انجام می‏دهیم و
مسئول پیامدها نیستیم.‌»‌!‌ بله، من فکر نمی‏کنم که
این موضع‏گیری، قابل دفاع باشد.‌ واضح است که وقتی
شما کاری را انجام می‏دهید و توسط آن، بسیاری از
مردم را زیانی چنین عظیم می‏رسانید، فکر نمی‏کنم که
دیگر بتوانید از مسئولیت پیامدهایی که متوجه
این مردم شده است، سرباز زنید.‌
? این اصل تا کجا را در بر می‏گیرد؟
? حوزه خیلی گسترده‏ای را در برمی‏گیرد.‌ اکنون
من فکر می‏کنم که ما به این نتیجه رسیدهایم،
افرادی که مثلاً مسلسل دستی می‏سازند، باید در مورد
پیامدهای استفاده از آن هم مسئول باشند، چرا که
ما هیچ دلیل عقلانی برای استفاده از چنین چیزی در
یک جامعه غیرنظامی نمی‏بینیم.‌ استدلال ما درباره
سلاح‏های دستی، در واقع، به خطری مربوط می‏شود که
این سلاح‏ها به وجود می‏آورند.‌ اما اگر با همین
سلاح‏های دستی به افراد زیادی شلیک شود، در این
صورت، ما بالاخره تصمیم می‏گیریم که قوانین مربوط به
مالکیت آنها را تغییر دهیم