دوره جامع هوش مصنوعی

رویداد لایو - گفت و گو با دکتر سیدمهدی خلیق‌رضوی

جلسه اوّل: هوش مصنوعی و ایده‌های کسب‌وکار

History of AI

AI, ML, and Deep learning

Applications of artificial intelligence and types of AI

Supervised and Unsupervised Learning

What is perceptron and introduction to neural network

Nonlinearity,activation function, and cost function

Optimization, gradient descent, and backpropagation

How define a model in Keras and tensorflow

Batch, Mini-Batch and Stochastic Gradient decent

Simple Neural Network in Keras

Sparse label, from logits and flatten layer

Overfitting and dropout

A brief history of CNN

Layer hirarchy in convolutional neural network

Convolution kernel

Padding and stride in convolution

Convolution on rgb image and simple network

Average and max pooling operation

LeNet-5 architecture

Calculating the number of Parameters and shapes in CNNs

Convolution Neural Network in Tensorflow Keras

Learning rate

Batch Normalization

Getting started in scikit-learn with iris dataset

Image as a data

Persian digit dataset

Persian digit classification

generalization, overfitting, and underfitting

Linear Regression

Linear Models and Regularization methods

Unsupervised learning(Transformations)

Unsupervised learning(Clustring)

Cross validation, Model complexity and Gridsearch

Model Evaluation and Confusion matrix

کلیات حل مساله

ساختار الگوریتم ها

دستورات شرطی

حلقه و تکرار

حل چند مساله

فلوچارت

تابع نویسی

متغیرهای محلی

ساخت رشته

کنترل نحوه نمایش

لیست ها

توابع کار با لیست

تاپل ها

دیکشنری و مجموعه

ساختار شرطی

حلقه ها

حلقه در ساختارهای داده

رسم اشکال هندسی(حل تمرین)

مثلث خیام پاسکال(حل تمرین)

شی گرایی 1

شی گرایی 2

کار با فایل

آشنایی با انواع خطا

مدیریت استثنا1

مدیریت استثنا2

استثنا(حل تمرین)

ویروس و آنتی ویروس

توضیحات محیط و نصب

عملگرهای ریاضی

عملگرهای شرطی، منطقی و بیتی

رسم نمودار گرافیکی

رسم نمودارهای آماری

توابع لامبدا و رسم سری ریمان(حل تمرین)

آرایه های چند بعدی در Numpy

اعمال توابع در Numpy

آمار و احتمالات در Numpy

فکر بکر 1(حل تمرین)

فکر بکر 2(حل تمرین)

دیتافریم در Pandas

گروه بندی داده ها در Pandas

Introduction to Machine Learning

?What is Machine Learning

Learning Types

Bayesian Networks

Inference in Bayesian Networks

Naive Bayes Classifier

Naive Bayes classifier Example

Hidden Markov Model

Decision Tree

Entropy

ID3 algorithm

C4.5 algorithm

بررسی معیارهای ارزیابی در درخت تصمیم

بررسی ماتریس درهم ریختگی و نمودار ROC در درخت تصمیم

پیاده سازی درخت تصمیم

Ensemble of Classifiers

Stacking & Bagging

Boosting & Adaboost

Ensemble(Programing)

Evaluation Metrics

Gaussian Naive Bayes

Gaussian Naive Bayes Parametric

Naive Bayesian 01(Programing)

Naive Bayesian 02(Programing)

KNN

KNN decision boundary

KNN 01(Programing)

KNN 02(Programing)

Introduction to Linear Regression

Gradient Descent

Nonlinear Regression

Bias & Variance

Regularization

Introduction to Sklearn(Programing)

Pre-process 01(Programing)

Pre-process 02(Programing)

Pre-process 03(Programing)

Pre-process 04(Programing)

Pre-process 05(Programing)

Pre-process 06(Programing)

Regression 01(Programing)

Regression 02(Programing)

Regression 03(Programing)

Regression 04(Programing)

Logistic Regression

Formalism

Roc Curve

Logistic Regression(Programing)

Multiclass

SVM

Svm Example

Kernel Functions

Soft Margin in Svm

SVM(Programing)

مبانی آمار و احتمال

متغیرهای تصادفی

توزیع‌های آماری

توزیع‌های گسسته

گشتاورها

دو متغیر تصادفی

ضریب همبستگی

بردارهای تصادفی

تئوری اطلاعات

نئوری اطلاعات 2

تعریف بهینه سازی

توابع بهینه سازی

مشتق مرتبه دوم

الگوریتم‌های بهینه سازی

مبانی ریاضیاتی

سیستم‌های خطی

معادله برداری

معادله ماتریسی

جبر ماتریسی

فضاهای برداری

بعد برداری

رتبه ماتریس

نرم‌های برداری و ماتریسی

مقادیر ویژه و بردارهای ویژه

تجزیه‌های ماتریسی

تجزیه مقدار منفرد

ارائه دکتر اخائی

ارائه دکتر یعقوب زاده

معرفی متدولوژی های توسعه نرم افزار

چرخه عمر DevOps

طریقه پیاده سازی Gitflow

نصب و راه‌اندازی گیت‌لب

پایپ‌لاین CI/CD

راه‌اندازی گیت‌لب رانر

سامانه ارزیابی کیفیت کد(سونار‌کیوب)

داکر

مدیریت خط تولید

مثال عملی

ارزیابی کیفیت کد پروژه یادگیری ماشین در پایپ لاین 01

ارزیابی کیفیت کد پروژه یادگیری ماشین در پایپ لاین 02

بهینه‌سازی شبکه‌های عصبی

Dropout

Data Augmentation & Batch Normalization

طراحی شبکه‌های عمیق 01

طراحی شبکه‌های عمیق 02

طراحی شبکه‌های عمیق 03

معرفی اتوانکدر‌ها

کاربرد اتوانکدر‌ها

مدل‌های مولد

مدل‌های مولد تخاصمی

انواع مدل‌های GAN

StyleGAN

چالش‌های مدل‌های GAN & مدل‌های مولد متن به تصویر

مدل‌های مولد متن به تصویر

شبکه‌های عصبی MLP

مفهوم کانولوشن

کانولوشن در پردازش تصویر

شبکه‌های عصبی کانولوشنال 01(CNN)

شبکه‌های عصبی کانولوشنال 02(CNN)

لایه Transposed Conv

شبکه AlexNet

شبکه VGG & GoogleNet & ResNet

شبکه‌های عصبی 01

شبکه‌های عصبی 02

الگوریتم گرادیان کاهشی

الگوریتم گرادیان کاهشی 02

پیاده سازی الگوریتم گرادیان کاهشی بر روی شبکه عصبی پرسپترون

الگوریتم پس انتشار خطا

batch & mini-batch & stochastic gradient descent

مثال ساده طبقه بندی

مقدمه

دستاوردهای هوش مصنوعی 01

دستاوردهای هوش مصنوعی 02

هوش مصنوعی در بازار کار

آینده هوش مصنوعی 01

آینده هوش مصنوعی 02

یادگیری عمیق چیست؟

تاریخچه شبکه‌های عصبی

تفاوت یادگیری عمیق و کلاسیک

فرایند کلی یادگیری عمیق

یادگیری انتقالی(Transfer Learning)

مثال

پیاده سازی Transfer Learning

مقدمه

یادگیری ماشین

انواع روش ‌های یادگیری ماشین

یادگیری تقویتی

چالش‌های یادگیری ماشین 01

چالش‌های یادگیری ماشین 02

چالش‌های یادگیری ماشین 03

Deep learning frameworks

Tensorflow

آموزش Google Colab

Deep Feed-Forward Coding

Deep Forward Implementation

CNN 01

CNN 02

Training and overfitting

شبکه‌های بازگشتی

شبکه‌های بازگشتی و مکانیزم توجه

مکانیزم توجه

ترانسفورمرها 01

ترانسفورمرها 02

Review on Linear Algebra

Parameterizing the Rotation Matrix

Homogeneous Coordinates 01

Homogeneous Coordinates 02

Pinhole Camera Model 01

Pinhole Camera Model 02

Two calibrated cameras 01

Two calibrated cameras 02

Two calibrated cameras & Calibration using known 3D object

Computing camera parameters from the projection matrix

Computing the projection matrix from E 01

Computing the projection matrix from E 02

Uncalibrated cameras - The fundamental matrix (F) & Projective reconstruction

Computing the projection matrices from F

Rectification using metric information

Parallel projection 01

Parallel projection 02

Perspective projection

Building simple image mosaics 01

Building simple image mosaics 02

External & internal camera parameters

Homography map 01

Homography map 02

General camera translation

Multiple Cameras 01

Multiple Cameras 02

Syllabus

Basic Definitions

Motivations

Conducted Research at IPL

Brief Review on Signals & Systems

Some Simple Image Processing Tasks & Convolution

Fourier Transform 01

Fourier Transform 02

Fourier Transform 03

Fourier Transform 04

Image Filtering 01

Image Filtering 02

Surface reconstruction & rendering

Voronoi cells & Delaunay triangulations

Surface mappings, image-based rendering & Planar surfaces, linear mappings

Some Basic Properties

Derivatives 01

Derivatives 02

Keypoints 01

Keypoints 02

Keypoints 03

Scale Selection

SIFT

HoG

GIST

Keypoint Matching

Template Matching & Chamfer Matching

KD- Tree Search

Model Fitting

M - estimator

Robust Estimation

Data grouping

Learning Types

K-Means clustering

K-nearest neighbor classifier

Expectation-Maximization

Mean shift

Introduction to Deep Learning

Basic Machine Learning Concepts

Deep Learning in Computer Vision

Neural Network Models

Neural Networks

Convolutional Neural Networks

Recurrent Neural Networks

Transformer models

Popular Networks in Computer Vision

Opencv

Edge

Open3d

Homography

Surface Reconstruction

Template Matching 01

Template Matching 02

Sift

Feature Matching 01

Feature Matching 02

Comparison

Scikit Image

HoG

Scikit-learn

Clustering

Pytorch-Introduction

Pytorch-Torchvision

Pytorch-Dataset

Pytorch-Model

Pytorch-Train Loop

Pytorch-Inference

نحوه عملکرد الگوریتم‌های بازگشتی

مثال(مرتب‌سازی ادغامی)

برج هانوی و درخت بازگشتی فیبوناتچی

دسته‌بندی الگوریتم‌های مرتب‌سازی

Count Sort & Radix Sort

Insertion Sort & Selection Sort

Bubble Sort & Merge Sort

Quick Sort

Heap Sort

تحلیل الگوریتم مرتب‌سازی درجی

نمادهای توابع رشد الگوریتم‌ها

چگونه یک الگوریتم را تحلیل کنیم؟

مفاهیم ساختمان‌ داده Hash

روش‌های Hashing

انتخاب تابع مناسب برای پراكندگی

آرایه (Array)

ماتریس خلوت و لیست پیوندی

عملیات رایج روی لیست پیوندی و پشته

تبدیل infix به postfix

صف (Queue)

مفاهیم ساختمان‌ داده درخت‌

پیمایش درخت دودویی

درخت هافمن و Heap

درخت دودویی جستجو

مفاهیم ساختمان‌ داده گراف

روش‌های نمایش گراف

پیمایش گراف

پیمایش عمقی

کاربرد‌های پیمایش عمقی

درخت پوشای کمینه (الگوریتم Kruskal, Prim)

مسئله کوتاهترین مسیر از یک راس (الگوریتم Dijkstra)

كوتاهترین مسیر بین هر دو رأس (الگوریتم Floyd-Warshall)

طبقه بندی مسائل و چند نمونه مسئله

جستجوی کل حالت‌ها (Brute-force-search)

روش تقسیم و غلبه (Divide and Conquer)

مسئله خط آسمان (Skylines)

شمارش تعداد وارونگی‌ها

برنامه‌سازی پویا (Dynamic Programming)

روش حریصانه (Greedy)

مثال از روش حریصانه

سرفصل‌ها