ریاضیات هوش مصنوعی و علم داده

مدرس: دکتر امیر نجفی پیش‌نیاز: –
ترم: پاییز ۱۴۰۵ محل برگزاری: کلاس مجازی
زمان ارائه: دوشنبه ۱۷:۰۰ تا ۱۸:۳۰ مشاهده: دریافت لایسنس

معرفی درس

ریاضیات هوش مصنوعی و علم داده؛ مبانی نظری برای درک و توسعه الگوریتم‌های هوشمند

یادگیری ماشین و یادگیری عمیق بر مجموعه‌ای از مفاهیم ریاضی استوارند. درک این مفاهیم به شما کمک می‌کند فراتر از استفاده از کتابخانه‌ها و ابزارهای آماده بروید، منطق الگوریتم‌ها را بهتر بفهمید و روش‌های مناسب‌تری برای حل مسائل انتخاب کنید.

درس ریاضیات هوش مصنوعی و علم داده با هدف آموزش مبانی ریاضی موردنیاز در این حوزه‌ها، از دو جنبه نظری و کاربردی طراحی شده است. در این درس، چهار حوزه کلیدی جبر خطی، حساب دیفرانسیل چندمتغیره، آمار و احتمال و بهینه‌سازی بررسی می‌شوند؛ مفاهیمی که در مدل‌سازی داده‌ها، آموزش شبکه‌های عصبی، تخمین پارامترهای مدل و طراحی الگوریتم‌های یادگیری نقش اساسی دارند.

در بخش جبر خطی، با مفاهیمی مانند فضای برداری، نگاشت خطی، مقادیر و بردارهای ویژه و تجزیه مقدار منفرد آشنا می‌شوید. در بخش حساب دیفرانسیل، مشتقات جزئی، گرادیان، قانون زنجیره‌ای و مشتق‌گیری خودکار را می‌آموزید. مباحث آمار و احتمال، ابزارهای لازم برای مدل‌سازی عدم قطعیت و استنتاج از داده‌ها را فراهم می‌کنند و در بخش بهینه‌سازی، با روش‌هایی آشنا می‌شوید که برای آموزش و تنظیم بسیاری از مدل‌های یادگیری ماشین به کار می‌روند.

در پایان این درس چه توانایی‌هایی کسب می‌کنید؟

  • درک مفاهیم اصلی جبر خطی و ارتباط آن‌ها با نمایش داده‌ها و مدل‌های یادگیری ماشین
  • آشنایی با گرادیان، مشتقات چندمتغیره و قانون زنجیره‌ای و درک نقش آن‌ها در آموزش مدل‌ها
  • استفاده از مفاهیم احتمال، توزیع‌های احتمالی و آمار برای مدل‌سازی داده‌ها و تحلیل عدم قطعیت
  • درک مبانی نظری تخمین پارامترها و روش‌های بیشینه درست‌نمایی و تخمین بیزی
  • آشنایی با روش‌های بهینه‌سازی گرادیانی، بهینه‌سازی مقید و مفاهیم بهینه‌سازی محدب
  • ایجاد پایه ریاضی مناسب برای مطالعه عمیق‌تر یادگیری ماشین، یادگیری عمیق و روش‌های پیشرفته علم داده

این درس برای دانشجویان، دانش‌آموختگان، پژوهشگران و متخصصانی مناسب است که قصد دارند دانش ریاضی خود را در زمینه هوش مصنوعی و علم داده تقویت کنند. همچنین برای افرادی که با الگوریتم‌های یادگیری ماشین کار می‌کنند و می‌خواهند مبانی نظری آن‌ها را بهتر درک کنند، می‌تواند مکمل ارزشمندی باشد.

پیش‌نیاز

آشنایی مقدماتی با ریاضیات دانشگاهی، به‌ویژه جبر خطی، حساب دیفرانسیل و انتگرال و احتمال، برای بهره‌گیری بهتر از این درس مفید است. با توجه به اینکه درس به مرور و سازمان‌دهی مفاهیم پایه موردنیاز هوش مصنوعی می‌پردازد، میزان تسلط موردنیاز بر این مباحث بهتر است با توجه به سطح ارائه درس و نظر استاد مشخص شود.

سرفصل‌ها

  1. جبرخطی (۴ جلسه)
    • فضای برداری و استقلال خطی
    • پایه و رتبه
    • نگاشت خطی و ماتریس
    • حل دستگاه معادلات خطی، رگرسیون خطی
    • ضرب داخلی و نرم
    • تصویر (projection) متعامد
    • تجزیه Singular Value
    • تجزیه بردار و مقدار ویژه یک ماتریس
  2. حساب دیفرانسیل (۴ جلسه)
    • توابع چند متغیره
    • مشتقات جزئی و گرادیان
    • قانون زنجیره‌ای مشتق
    • مشتق‌گیری خودکار
    • مشتقات توابع برداری
    • بسط تیلور توابع چند متغیره
  3. آمار و احتمال (۶ جلسه)
    • مفهوم احتمال
    • متغیر تصادفی
    • قانون جمع احتمال و قانون کل احتمال (Law of Total Probability)
    • قانون Bayes
    • مفهوم توزیع احتمال و انواع آن (تابع جرم و تابع چگالی احتمال)
    • استقلال متغیرهای تصادفی
    • چند توزیع نمونه (categorical و گوسی)
    • تابع توزیع توام چند متغیر تصادفی
    • ممان‌های یک و چند متغیر تصادفی (میانگین، واریانس، کوواریانس، ضریب همبستگی)
    • توزیع گوسی چند متغیره
    • قانون حد مرکزی و اعداد بزرگ
    • نظریه تخمین (بیشینه درست‌نمایی و Bayes)
  4. بهینه‌سازی (۴ جلسه)
    • بهینه‌سازی عددی به کمک گرادیان (کاهش گرادیان)
    • بهینه‌سازی مقید، ضرایب لاگرانژ و دوگان
    • بهینه‌سازی محدب

ارزیابی

  • تمرین‌ها: ۲۰ درصد
  • آزمونک‌ها: ۲۰ درصد
  • آزمون نهایی: ۶۰ درصد

منابع

  1. M. P. Deisenroth, A. A. Faisal, C. Soon Ong. Mathematics for Machine Learning. Cambridge University Press, 2020.