خطرات هوش مصنوعی مولد

قبل از صحبت درباره عنوان این مقاله یعنی خطرات هوش مصنوعی مولد لازم به ذکر است که این مقاله در ادامه رشته مقالات هوش مصنوعی مولد آمده است که لینک آنها در پایان نوشته شده است.

نگرانی های پیرامون خطرات هوش مصنوعی مولد

ظهور هوش مصنوعی مولد نیز نگرانی های مختلفی را برانگیخته است. اینها به کیفیت نتایج، پتانسیل سوء استفاده، سوء استفاده و پتانسیل ایجاد اختلال در مدل های تجاری موجود مربوط می شود. در اینجا برخی از انواع خاصی از مسائل مشکل ساز ناشی از وضعیت فعلی هوش مصنوعی مولد آورده شده است:

  • می تواند اطلاعات نادرست و گمراه کننده ارائه دهد.
  • بدون دانستن منبع و منشأ اطلاعات، اعتماد کردن دشوارتر است.
  • می تواند انواع جدیدی از سرقت ادبی را ترویج دهد که حقوق تولیدکنندگان محتوا و هنرمندان محتوای اصلی را نادیده می گیرد.
  • ممکن است مدل‌های کسب‌وکار موجود مبتنی بر بهینه‌سازی موتور جستجو و تبلیغات را مختل کند.
  • تولید اخبار جعلی را آسان تر می کند.
  • این ادعا را آسان‌تر می‌کند که شواهد عکاسی واقعی از یک تخلف فقط جعلی تولید شده توسط هوش مصنوعی است.
  • می تواند حملات سایبری مبتنی بر مهندسی اجتماعی را تسهیل کند

پیاده سازی هوش مصنوعی مولد فقط مربوط به فناوری نیست. کسب و کارها هم باید تأثیر آن را بر افراد و فرآیندها در نظر بگیرند.

چند نمونه از ابزارهای مولد هوش مصنوعی

ابزارهای مولد هوش مصنوعی برای حالت‌های مختلف مانند متن، تصویر، موسیقی، کد و صدا وجود دارد. برخی از تولیدکنندگان محتوای AI محبوب برای کاوش عبارتند از:

  • ابزارهای تولید متن عبارتند از GPT، Jasper، AI-Writer و Lex.
  • ابزارهای تولید تصویر عبارتند از Dall-E 2، Midjourney و Stable Diffusion.
  • ابزارهای تولید موسیقی عبارتند از Amper، Dadabots و MuseNet.
  • ابزارهای تولید کد عبارتند از CodeStarter، Codex، GitHub Copilot و Tabnine.
  • ابزارهای ترکیب صدا عبارتند از Descript، Listnr و Podcast.ai.
  • شرکت‌های ابزار طراحی تراشه هوش مصنوعی شامل Synopsys، Cadence، Google و Nvidia هستند.

هوش مصنوعی مولد در صنعت

با وجود اینکه نمی توان از خطرات هوش مصنوعی مولد غافل ماند اما فناوری‌های مولد جدید هوش مصنوعی گاهی اوقات به عنوان فناوری‌های همه منظوره مشابه قدرت بخار، الکتریسیته و محاسبات توصیف می‌شوند، زیرا می‌توانند عمیقاً بر بسیاری از صنایع و موارد استفاده تأثیر بگذارند.

مهم است که در نظر داشته باشید، مانند فناوری‌های همه‌منظوره قبلی، اغلب دهه‌ها طول می‌کشید تا افراد بهترین راه را برای سازماندهی گردش‌های کاری برای استفاده از رویکرد جدید به جای سرعت بخشیدن به بخش‌های کوچکی از گردش‌های کاری موجود بیابند. در اینجا چند روش وجود دارد که کاربردهای هوش مصنوعی مولد می توانند بر صنایع مختلف تأثیر بگذارند:

امور مالی می تواند تراکنش ها را در زمینه سابقه یک فرد برای ایجاد سیستم های تشخیص تقلب بهتر مشاهده کند.
شرکت های حقوقی می توانند از هوش مصنوعی مولد برای طراحی و تفسیر قراردادها، تجزیه و تحلیل شواهد و پیشنهاد استدلال استفاده کنند.

سازندگان می توانند از هوش مصنوعی مولد برای ترکیب داده های دوربین ها، اشعه ایکس و سایر معیارها برای شناسایی دقیق تر و اقتصادی تر قطعات معیوب و علل ریشه ای استفاده کنند.
شرکت‌های فیلم و رسانه می‌توانند از هوش مصنوعی برای تولید مقرون به صرفه‌تر محتوا و ترجمه آن به زبان‌های دیگر با صدای خود بازیگران استفاده کنند.

صنعت پزشکی می‌تواند از هوش مصنوعی مولد برای شناسایی مؤثرتر دارو‌های امیدبخش استفاده کند.
شرکت های معماری می توانند از هوش مصنوعی مولد برای طراحی و تطبیق نمونه های اولیه سریعتر استفاده کنند.
شرکت های بازی سازی می توانند از هوش مصنوعی مولد برای طراحی محتوا و سطوح بازی استفاده کنند.

GPT به پانتئون فناوری های همه منظوره می پیوندد

OpenAI، یک شرکت تحقیقاتی و استقرار هوش مصنوعی، ایده های اصلی ترانسفورماتورها را برای آموزش نسخه خود به نام Generative Pre-trained Transformer یا GPT در نظر گرفت. ناظران اشاره کرده اند که GPT همان مخفف مورد استفاده برای توصیف فناوری های همه منظوره مانند موتور بخار، برق و محاسبات است. بسیاری بر این باورند که GPT و سایر پیاده سازی های ترانسفورماتور در حال حاضر به نام خود عمل می کنند زیرا محققان راه هایی را برای اعمال آنها در صنعت، علم، تجارت، ساخت و ساز و پزشکی کشف می کنند.

اخلاق و سوگیری از خطرات هوش مصنوعی مولد

علیرغم وعده‌هایشان، ابزارهای مولد جدید هوش مصنوعی مجموعه‌ای از کرم‌ها را در مورد دقت، قابل اعتماد بودن، سوگیری، توهم و سرقت ادبی باز می‌کنند – مسائل اخلاقی که احتمالاً حل آنها سال‌ها طول می‌کشد. هیچ یک از مسائل به خصوص برای هوش مصنوعی جدید نیست. به عنوان مثال، اولین حمله مایکروسافت به چت بات ها در سال 2016، به نام Tay، پس از اینکه شروع به پخش لفاظی های تحریک آمیز در توییتر کرد، باید خاموش می شد.

چیزی که جدید است این است که آخرین محصول از برنامه های هوش مصنوعی مولد در سطح منسجم تر به نظر می رسد. اما این ترکیبی از زبان انسان‌مانند و انسجام مترادف با هوش انسانی نیست و در حال حاضر بحث‌های زیادی در مورد اینکه آیا می‌توان مدل‌های هوش مصنوعی مولد را برای داشتن توانایی استدلال آموزش داد یا خیر، وجود دارد. یکی از مهندسان گوگل حتی پس از اعلام عمومی برنامه هوش مصنوعی مولد این شرکت، مدل‌های زبان برای برنامه‌های گفتگو (LaMDA)، اخراج شد.

واقع گرایی متقاعد کننده محتوای AI مولد مجموعه جدیدی از خطرات هوش مصنوعی را نشان می دهد. تشخیص محتوای تولید شده توسط هوش مصنوعی را دشوارتر می کند و مهمتر از آن، تشخیص اشتباهات را دشوارتر می کند. وقتی برای نوشتن کد یا ارائه توصیه های پزشکی به نتایج هوش مصنوعی مولد تکیه می کنیم، این می تواند مشکل بزرگی باشد. بسیاری از نتایج هوش مصنوعی مولد شفاف نیستند، بنابراین تعیین اینکه آیا، برای مثال، حق نسخه‌برداری را نقض می‌کنند یا مشکلی با منابع اصلی که از آنها نتیجه گرفته‌اند، مشکل است. اگر نمی دانید هوش مصنوعی چگونه به نتیجه رسید، نمی توانید دلیل اشتباه بودن آن را بیان کنید.

 

این مقاله ادامه دارد…

قبل از شروع این مقاله بخوانید:

هوش مصنوعی مولد

شبکه عصبی در هوش مصنوعی مولد

کاربردهای هوش مصنوعی مولد

برای مطالعه مقالات مربوط به هوش مصنوعی، به لینک زیر مراجعه کنید:

هوش مصنوعی

لینکهای مفید:

گروه خودروسازی سایپا

مطالب مرتبط

fasa logo 3 - Footer Dark 02 - 1

فسا با انجام پروژه های متعدد و ارائه راه حل های مورد اعتماد در حوزه های صنعتی، بیمه ای، خدمات ارزش افزوده، حمل و نقل هوشمند و مراکز داده، امنیت و تجهیز ساختمان ها تبدیل به یکی از فعالترین شرکت های مطرح در فناوری اطلاعات و ارتباطات در سطح مطلوب فناوری و تکنولوژی روز شده است.

 



اطلاعات تماس



 آدرس: تهران – بلوار میرداماد – خیابان کازرون – خیابان نیکنام – پلاک ۱۰


 ایمیل: info@fasatech.com

 تلفن: 5 -26424001-021



خدمات

• تولید و توسعه نرم‌افزار(IS)

• شبکه و زیرساخت(IT)

• برنامه‌ریزی منابع انسانی(EPR)

• امنیت اطلاعات و ارتباطات

• تامین تجهیزات و سخت‌افزار

• تامین منابع انسانی متخصص



لینک‌های مرتبط

car - Footer Dark 02 - 3
bike - Footer Dark 02 - 4