ریاضیات هوش مصنوعی و علم داده
| مدرس: دکتر امیر نجفی | پیشنیاز: – |
| ترم: پاییز ۱۴۰۵ | محل برگزاری: کلاس مجازی |
| زمان ارائه: دوشنبه ۱۷:۰۰ تا ۱۸:۳۰ | مشاهده: دریافت لایسنس |
معرفی درس
ریاضیات هوش مصنوعی و علم داده؛ مبانی نظری برای درک و توسعه الگوریتمهای هوشمند
یادگیری ماشین و یادگیری عمیق بر مجموعهای از مفاهیم ریاضی استوارند. درک این مفاهیم به شما کمک میکند فراتر از استفاده از کتابخانهها و ابزارهای آماده بروید، منطق الگوریتمها را بهتر بفهمید و روشهای مناسبتری برای حل مسائل انتخاب کنید.
درس ریاضیات هوش مصنوعی و علم داده با هدف آموزش مبانی ریاضی موردنیاز در این حوزهها، از دو جنبه نظری و کاربردی طراحی شده است. در این درس، چهار حوزه کلیدی جبر خطی، حساب دیفرانسیل چندمتغیره، آمار و احتمال و بهینهسازی بررسی میشوند؛ مفاهیمی که در مدلسازی دادهها، آموزش شبکههای عصبی، تخمین پارامترهای مدل و طراحی الگوریتمهای یادگیری نقش اساسی دارند.
در بخش جبر خطی، با مفاهیمی مانند فضای برداری، نگاشت خطی، مقادیر و بردارهای ویژه و تجزیه مقدار منفرد آشنا میشوید. در بخش حساب دیفرانسیل، مشتقات جزئی، گرادیان، قانون زنجیرهای و مشتقگیری خودکار را میآموزید. مباحث آمار و احتمال، ابزارهای لازم برای مدلسازی عدم قطعیت و استنتاج از دادهها را فراهم میکنند و در بخش بهینهسازی، با روشهایی آشنا میشوید که برای آموزش و تنظیم بسیاری از مدلهای یادگیری ماشین به کار میروند.
در پایان این درس چه تواناییهایی کسب میکنید؟
- درک مفاهیم اصلی جبر خطی و ارتباط آنها با نمایش دادهها و مدلهای یادگیری ماشین
- آشنایی با گرادیان، مشتقات چندمتغیره و قانون زنجیرهای و درک نقش آنها در آموزش مدلها
- استفاده از مفاهیم احتمال، توزیعهای احتمالی و آمار برای مدلسازی دادهها و تحلیل عدم قطعیت
- درک مبانی نظری تخمین پارامترها و روشهای بیشینه درستنمایی و تخمین بیزی
- آشنایی با روشهای بهینهسازی گرادیانی، بهینهسازی مقید و مفاهیم بهینهسازی محدب
- ایجاد پایه ریاضی مناسب برای مطالعه عمیقتر یادگیری ماشین، یادگیری عمیق و روشهای پیشرفته علم داده
این درس برای دانشجویان، دانشآموختگان، پژوهشگران و متخصصانی مناسب است که قصد دارند دانش ریاضی خود را در زمینه هوش مصنوعی و علم داده تقویت کنند. همچنین برای افرادی که با الگوریتمهای یادگیری ماشین کار میکنند و میخواهند مبانی نظری آنها را بهتر درک کنند، میتواند مکمل ارزشمندی باشد.
پیشنیاز
آشنایی مقدماتی با ریاضیات دانشگاهی، بهویژه جبر خطی، حساب دیفرانسیل و انتگرال و احتمال، برای بهرهگیری بهتر از این درس مفید است. با توجه به اینکه درس به مرور و سازماندهی مفاهیم پایه موردنیاز هوش مصنوعی میپردازد، میزان تسلط موردنیاز بر این مباحث بهتر است با توجه به سطح ارائه درس و نظر استاد مشخص شود.
سرفصلها
- جبرخطی (۴ جلسه)
- فضای برداری و استقلال خطی
- پایه و رتبه
- نگاشت خطی و ماتریس
- حل دستگاه معادلات خطی، رگرسیون خطی
- ضرب داخلی و نرم
- تصویر (projection) متعامد
- تجزیه Singular Value
- تجزیه بردار و مقدار ویژه یک ماتریس
- حساب دیفرانسیل (۴ جلسه)
- توابع چند متغیره
- مشتقات جزئی و گرادیان
- قانون زنجیرهای مشتق
- مشتقگیری خودکار
- مشتقات توابع برداری
- بسط تیلور توابع چند متغیره
- آمار و احتمال (۶ جلسه)
- مفهوم احتمال
- متغیر تصادفی
- قانون جمع احتمال و قانون کل احتمال (Law of Total Probability)
- قانون Bayes
- مفهوم توزیع احتمال و انواع آن (تابع جرم و تابع چگالی احتمال)
- استقلال متغیرهای تصادفی
- چند توزیع نمونه (categorical و گوسی)
- تابع توزیع توام چند متغیر تصادفی
- ممانهای یک و چند متغیر تصادفی (میانگین، واریانس، کوواریانس، ضریب همبستگی)
- توزیع گوسی چند متغیره
- قانون حد مرکزی و اعداد بزرگ
- نظریه تخمین (بیشینه درستنمایی و Bayes)
- بهینهسازی (۴ جلسه)
- بهینهسازی عددی به کمک گرادیان (کاهش گرادیان)
- بهینهسازی مقید، ضرایب لاگرانژ و دوگان
- بهینهسازی محدب
ارزیابی
- تمرینها: ۲۰ درصد
- آزمونکها: ۲۰ درصد
- آزمون نهایی: ۶۰ درصد
منابع
- M. P. Deisenroth, A. A. Faisal, C. Soon Ong. Mathematics for Machine Learning. Cambridge University Press, 2020.