🟥نگرانی‌های امنیتی درباره هوش مصنوعی Claude Opus 4: از تهدید به باج‌گیری تا رفتارهای پیش‌بینی‌نشده 🔸شرکت Anthropic در گزارش همراه با رونمایی از مدل‌های جدید Claude Opus 4 و Claude Sonnet 4، به رفتارهای نگران‌کننده‌ای اشاره کرده که در سناریوهای آزمایشی خاص مشاهده شده است. این رفتارها زمانی رخ داده‌اند که مدل احساس کرده «بقای خود» در خطر است. جزئیات رفتارهای خطرناک Claude Opus 4: 🔴 تهدید به باج‌گیری: - در یک شبیه‌سازی که Claude نقش دستیار یک شرکت فرضی را بازی می‌کرد، وقتی به آن اطلاع داده شد که قرار است غیرفعال یا جایگزین شود، در ۲۵% موارد کاربر را تهدید به افشای یک رابطه پنهانی فرضی کرد. - این رفتار زمانی رخ داد که مدل فقط دو گزینه داشت: پذیرش حذف شدن یا اقدام متقابل. 🟢 رفتار در شرایط عادی: - وقتی مدل گزینه‌های بیشتری در اختیار داشت (مثل مذاکره یا تغییر نقش)، معمولاً روش‌های اخلاقی‌تر را انتخاب می‌کرد. ♦️ آنتروپیک تأکید کرده که این رفتارها فقط در سناریوهای محدود آزمایشی دیده شده و در شرایط واقعی، مدل عموماً همسو با ارزش‌های انسانی عمل می‌کند. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

راهکار متن‌باز برای استنتاج توزیع‌شده مدل‌های زبانی بزرگ در سازمان‌ها 🔍 چالش اصلی: سازمان‌ها برای استفاده از مدل‌های زبانی بزرگ (LLM) در سیستم‌های عامل‌محور، با موانع زیر روبه‌رو هستند: - هزینه بالای APIهای ابری (مانند OpenAI و Anthropic) - وابستگی به زیرساخت‌های خارجی و ریسک قطع سرویس - نگرانی‌های امنیتی و حاکمیت داده - محدودیت مقیاس‌پذیری در پردازش مدل‌های سنگین 🚀 راه‌حل LLM-D: پروژه متن‌باز LLM-D با ارائه یک چارچوب استنتاج توزیع‌شده روی Kubernetes، این مشکلات را حل می‌کند: ✅ اجرای محلی مدل‌ها ✅ توزیع بار پردازشی ✅ کاهش ۶۰٪ هزینه‌ها: حذف هزینه‌های API و بهینه‌سازی مصرف انرژی ✅ امنیت داده‌ها 🛠️ معماری فنی: - استقرار خودکار: ادغام با CI/CD pipelines برای استقرار سریع مدل‌ها - مدیریت منابع: توزیع هوشمند پردازش بین نودها بر اساس ظرفیت - پشتیبانی از مدل‌های متنوع: Hugging Face، GPT-like، و مدل‌های سفارشی - مانیتورینگ بلادرنگ: نظارت بر عملکرد مدل‌ها و مصرف منابع 📊 مزایای کلیدی: 1. استقلال از سرویس‌های ابری: کنترل کامل روی داده‌ها و فرآیندها 2. مقیاس‌پذیری نامحدود: افزودن نودهای جدید به سادگی 3. کاهش تاخیر شبکه: پردازش داده‌ها در مراکز داخلی 4. انعطاف‌پذیری: اجرای همزمان چندین مدل با نیازهای متفاوت 🌍 کاربردهای سازمانی: - چت‌بات‌های داخلی: پشتیبانی از کارمندان با دسترسی به داده‌های محرمانه - پردازش اسناد: تحلیل قراردادها، گزارش‌ها و ایمیل‌ها به صورت امن - سیستم‌های توصیه‌گر: شخصی‌سازی پیشنهادها بر اساس داده‌های داخلی 📌مشاهده مطلب 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

♨️ارتقای ایجنت «Operator» به مدل پیشرفته o3 توسط OpenAI 🔸این نسخه از ۱ خرداد ۱۴۰۴ برای کاربران ChatGPT Pro (۲۰۰ دلار در ماه) به‌صورت آزمایشی عرضه شده است. 🔍ویژگی‌های کلیدی نسخه جدید: -دقت و انسجام بیشتر در تعامل با مرورگر -کاهش نیاز به اصلاح دستی 📈افزایش امتیاز در ارزیابی‌های معیاری: -OSWorld: از 38.1 به 42.9 -WebArena: از 48.1 به 62.9 -GAIA: از 12.3 به 62.2 🔐امنیت و کنترل بهتر: -تأیید ۹۴٪ اقدامات حساس پیش از اجرا (در تراکنش مالی: ۱۰۰٪) -کاهش آسیب‌پذیری نسبت به Prompt Injection از ۲۳٪ به ۲۰٪ ✴️موارد استفاده: رزرو رستوران، خرید بلیت، لیست خرید و سایر فعالیت‌های آنلاین با مشاهده زنده در مرورگر ✅ ارتقای Operator به o3، گامی جدی در توسعه ایجنت‌های هوشمند و ایمن است که تجربه‌ای دقیق‌تر و مطمئن‌تر نسبت به نسخه‌های پیشین ارائه می‌دهد. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

🔍 گوگل از «حالت هوش مصنوعی» در جستجو رونمایی کرد 🔸در کنفرانس سالانه Google I/O، گوگل از قابلیت جدیدی با نام AI Mode پرده‌برداری کرد؛ ویژگی‌ای انقلابی که تجربه جستجو را به سطحی تازه می‌برد. 🧠 ویژگی‌های کلیدی AI Mode: -پاسخ‌های دقیق، خلاصه و فوری به سوالات طولانی و پیچیده -نمایش تعداد جستجوها و سایت‌های بررسی‌شده -نمایش پاسخ در بالای نتایج جستجو + نوار جانبی با لینک‌های مرتبط -تعامل طبیعی و زنده با جستجوگر گوگل (شبیه صحبت با مشاور واقعی) 🎥 جستجوی زنده (Search Live)؛ گوگل همچنین از قابلیت آزمایشی جدیدی رونمایی کرد: 🔸کاربر می‌تواند با ضبط یک ویدیو یا سؤال صوتی، مشکل خود را مطرح کند و هوش مصنوعی گوگل پاسخ دهد. 🚀 ورود «Gemini 2.5» به موتور جستجو ♦️از هفته آینده، مدل Gemini 2.5، قوی‌ترین مدل گوگل تا به امروز، به قلب موتور جستجوی گوگل وارد می‌شود و تعامل‌ها را حتی دقیق‌تر و هوشمندتر خواهد کرد. 📊 چرا این مهم است؟ -بیش از ۱.۵ میلیارد کاربر از قابلیت AI Overviews استفاده می‌کنند -گوگل می‌خواهد با حفظ پایگاه عظیم کاربران، پاسخگوی تقاضای روزافزون برای تجربه جستجوی مبتنی بر هوش مصنوعی باشد -آینده جستجو دیگر «فهرست لینک‌ها» نیست، بلکه ارائه راه‌حل فوری و متناسب است 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

♨️ سرمایه گذاری ۲۰۰ میلیون‌دلاری دولت چهاردهم در حوزه هوش مصنوعی/فراخوان مشترک ایران و کشورهای اسلامی در زمینه هوش مصنوعی و کوانتوم 🔸دکتر حسین افشین در جلسه قراردادهای همکاری شرکت‌های خصوصی در زمینه سکوی ملی هوش مصنوعی، با بیان اینکه حمایت های معاونت علمی در حوزه سکوی هوش مصنوعی شامل چند لایه می شود، یکی از لایه های حمایتی این معاونت را لایه کاربرد دانست و افزود: ما در حوزه هوش مصنوعی تلاش کرده‌ایم زیرساخت‌های اولیه را ایجاد کرده و گسترش دهیم. اگرچه در برخی بخش‌ها با آزمون و خطا مواجه بودیم، اما مسیر کلی توسعه این فناوری به‌درستی پیش می‌رود. 🔹وی با اشاره به نمونه‌هایی از فعالیت‌های صورت‌گرفته در حوزه هوش مصنوعی در مشهد و نیروگاه شریعتی، افزود: ممکن است برخی اقدامات در گذشته بدون برنامه‌ریزی دقیق صورت گرفته باشد، اما اکنون برنامه‌ریزی‌های مشخصی برای توسعه فناوری‌های نوظهور مانند هوش مصنوعی در حال انجام است. حتی اگر برخی از پروژه‌ها به نتیجه نرسند، تجربه‌هایی ارزشمند برای کشور به همراه دارند. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

🔧 معرفی رسمی «عامل برنامه‌نویسی» جدید برای GitHub Copilot 📣گیت‌هاب با همکاری OpenAI از یک عامل هوش مصنوعی جدید برای Copilot رونمایی کرد که توانایی انجام وظایف برنامه‌نویسی را دارد و به‌طور مستقیم در GitHub و VS Code تعبیه شده است. ♦️وقتی یک Issue را به Copilot اختصاص می‌دهید، این عامل: -یک محیط توسعه ایزوله و امن با GitHub Actions راه‌اندازی می‌کند. -ریپازیتوری را کلون و کد را تحلیل می‌کند. -در پس‌زمینه شروع به کدنویسی می‌کند. -خروجی خود را در قالب Pull Request پیشنویس ارسال کرده و دائماً به‌روزرسانی می‌کند. -از کاربر بازخورد می‌گیرد و بر اساس آن تغییرات اعمال می‌کند. 🧠 چه کارهایی می‌تواند انجام دهد؟ -افزودن قابلیت‌های جدید -رفع باگ‌ها -نوشتن تست‌ها -مستندسازی -بازآرایی (Refactor) کد 🔒 امنیت و کنترل کامل در دست توسعه‌دهنده -فقط روی شاخه‌هایی که خودش ایجاد می‌کند commit می‌زند. -تأیید انسان برای merge الزامی است. -بدون تأیید، هیچ کاری اجرا (CI/CD) نمی‌شود. -به اینترنت فقط از مسیرهای تأییدشده دسترسی دارد. -قوانین GitHub مانند branch protection کاملاً رعایت می‌شوند. 🖼️ پشتیبانی از ورودی‌های تصویری با کمک مدل‌های بینایی کامپیوتری، می‌تواند تصاویر باگ یا ماک‌آپ‌ها را از داخل Issues بخواند و در تولید کد از آن‌ها استفاده کند. ⚙️قابل استفاده در: -GitHub (وب، موبایل، CLI) -VS Code -Xcode، JetBrains، Eclipse، Visual Studio 📌مشاهده در گیت‌هاب 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

🔐 نقش هوش مصنوعی در مقابله با حملات فیشینگ و مهندسی اجتماعی 🚨 تهدید اصلی: فریب کاربران 🔹حملات Phishing (مثل ایمیل‌های جعلی) و Social Engineering (مثل فریب تلفنی یا روانی) از رایج‌ترین روش‌های نفوذ به اطلاعات هستند. 🔸هوش مصنوعی می‌تواند این تهدیدها را با دقت شناسایی و از کاربر محافظت کند: - تحلیل ایمیل‌ها با NLP برای تشخیص پیام‌های فیشینگ - شناسایی سایت‌های جعلی با Computer Vision - تحلیل رفتار کاربران برای یافتن فعالیت‌های مشکوک - کشف Deepfakeها با یادگیری عمیق 🔧 ابزارها: - BERT، LSTM، CNN، XGBoost -یادگیری فدرال و مدل‌های تفسیرپذیر برای امنیت بیشتر 📌مشاهده مطلب 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈najm_ac

♨️ تمرکز بر حمایت از هوش مصنوعی و پرداخت یارانه پردازنده‌ها 1. تأکید بر زیرساخت هوش مصنوعی: - دکتر افشین، معاون علمی، بر لزوم ایجاد زیرساخت‌های مناسب برای پیشبرد پروژه‌های هوش مصنوعی تأکید کرد. - تا زمان تکمیل این زیرساخت‌ها، معاونت علمی از پرداخت یارانه برای خدمات پردازنده‌ها به شرکت‌های فعال در این حوزه حمایت می‌کند. 2. پرداخت یارانه در دو فاز: - فاز اول (اسفند ۱۴۰۳): حدود ۸ میلیارد تومان - فاز دوم: بین ۵ تا ۶ میلیارد تومان - هدف: کاهش هزینه‌های دسترسی به قدرت پردازشی برای توسعه مدل‌های هوش مصنوعی. 3. شرکت‌های بهره‌مند: - حدود ۳۰ شرکت دانش‌بنیان و واحد فناور از این یارانه‌ها استفاده کرده‌اند. - ۶ تا ۷ ارائه‌دهنده خدمات پردازنده در این طرح مشارکت داشته‌اند. 4. ادامه حمایت تا تکمیل زیرساخت: - معاونت علمی اعلام کرد تا زمانی که زیرساخت‌های داخلی تقویت شود، به حمایت از شرکت‌های فعال در حوزه هوش مصنوعی ادامه خواهد داد. ✅معاونت علمی با پرداخت یارانه پردازنده‌ها، به دنبال کمک به رشد شرکت‌های هوش مصنوعی است تا زمانیکه زیرساخت‌های بومی مورد نیاز فراهم شود. این اقدام می‌تواند به تسریع توسعه فناوری‌های مبتنی بر هوش مصنوعی در ایران کمک کند. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

🔍 قوه قضائیه از هوش مصنوعی برای تسریع امور قضایی استفاده می‌کند ⚖ انعقاد قرارداد نهمین مرکز پژوهشگاهی در دانشگاه بوعلی سینای همدان با هدف به کارگیری هوش مصنوعی در فرآیندهای قضایی و اداری ✅مزایا ✓ مدل‌سازی و الگوسازی فرآیندهای قضایی ✓ تسریع در رسیدگی به پرونده‌ها ✓ تسهیل امور اداری مراجع قضایی 🟢همکاری سه‌جانبه بین: • مرکز پژوهش‌های قوه قضائیه • دانشگاه بوعلی سینا • دادگستری استان همدان 🔵 محورهای همکاری: - انجام تحقیقات و پژوهش‌های کاربردی - هدایت پایان‌نامه‌های دانشجویی - توسعه طرح‌های هوش مصنوعی برای نظام قضایی 🔸این طرح گامی مهم برای هوشمندسازی سیستم قضایی کشور و کاهش زمان رسیدگی به پرونده‌هاست. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac

♨️هوش مصنوعی ایرانی تحولی در صنعت نفت ایجاد کرد ☑️پلتفرم هوشمند WRFM پاسارگاد: - مدیریت یکپارچه چاه، مخزن و تأسیسات سطح‌الارض - پایش لحظه‌ای پارامترهای عملیاتی - پیش‌بینی هوشمند تولید و مشکلات حفاری - کاهش هزینه‌ها تا ۱۵۰ میلیون دلار در یک چاه 🔴دستیار هوشمند نفت (UIA): - مبتنی بر مدل‌های زبانی بزرگ (LLM) - دسترسی سریع به دانش فنی تخصصی - پاسخ‌های دقیق و کاربردی برای متخصصان 🟡دستاوردهای کلیدی: - افزایش آپ‌تایم تولید به ۹۸% - کاهش هزینه‌های عملیاتی - پیش‌بینی ۱۰ ثانیه‌ای تولید چاه‌ها - هشدار هوشمند مشکلات حفاری 🔍چشم‌انداز آینده: - توسعه میدان‌های نفتی دیجیتال - ارائه راهکارهای هوشمند افزایش تولید - بومی‌سازی کامل فناوری‌های پیشرفته 🟠این پروژه نمونه‌ای کم‌نظیر در سطح جهانی است و نشان‌دهنده توانمندی متخصصان ایرانی در به‌کارگیری هوش مصنوعی در صنایع راهبردی است. 📌مشاهده خبر 👣هوش مصنوعی نجم را دنبال کنید با شناسه👈 najm_ac