Skip to main content
SUPERVISOR
Abdolreza Mirzaei,Mohammad Ali Montazeri
عبدالرضا میرزایی دمابی (استاد راهنما) محمدعلی منتظری (استاد مشاور)
 
STUDENT
MohammadTaghi Moien
محمدتقی معین الغربایی

FACULTY - DEPARTMENT

دانشکده مهندسی برق و کامپیوتر
DEGREE
Master of Science (MSc)
YEAR
1389
Machine Learning is one the most promising and salient research area in artificial intelligence, which has experienced a rapid development and has become a powerful tool in a wide range of applications. In studies relevant to both evolutionary algorithms and machine learning techniques, many attempts have been made to apply variants evolutionary algorithms as types of effective and efficient machine learning techniques. In contrast with the view of using evolutionary algorithms as machine learning techniques, we have focused on using machine learning techniques to enhance evolutionary algorithms. In the framework of enhanced evolutionary algorithms with machine learning techniques, the main idea is that the evolutionary algorithm has stored ample data about the search space, problem features and population information during the iterative search process, thus the machine learning technique is helpful in analyzing these data for enhancing the search performance. In this way, useful information can be extracted to understand the search behavior and to assist with future searches for the global optimum. In many applications, evolutionary algorithms incorporating machine learning techniques have been proven to be advantageous in both convergence speed and solution quality. The CMA-ES algorithm is one of the evolutionary algorithms that produce new population by sampling from a normal distribution. Covariance Matrix is one of the normal distribution parameters that is updated in each generation and has an important role in population quality and consequently guidance of the evolution. Therefore how updating this covariance matrix is critical. On the other hand, the DCC-GARCH model is one of the machine learning techniques that have several applications in economic models. This model predict multivariate time series which each term of the series is sampled from a normal distribution with zero mean and covariance matrix H t . Instead of predicting next term directly, this model predict the covariance matrix of the next term such that sampling from this covariance matrix may produce next term of time series. In this thesis, we want to use DCC-GARCH model to enhance the CMA-ES algorithm. The best step in each generation is equal to a term of series and the model will predict the covariance matrix of the best step of next generation by this series. Then this matrix is used in updating the covariance matrix of the CMA-ES algorithm directly and in directly that the results and experiments is showing reasonable enhancement.
یادگیری ماشین یکی از شاخه‌های هوش مصنوعی می‌باشد که دامنه?ی تحقیقاتی وسیعی دارد. در مقالات مربوط به الگوریتم‌های تکاملی و روش‌های یادگیری ماشین، برخی از الگوریتم‌های تکاملی به عنوان نوعی از روش?های یادگیری ماشین استفاده شده است. با توجه به اینکه همواره الگوریتم‌های تکاملی به عنوان یادگیری ماشین به کار رفته است، ما در این پایان نامه به استفاده از روش? ? های یادگیری ماشین در بهبود الگوریتم?های تکاملی پرداخته?ایم. ایده اصلی در بهبود الگوریتم‌های تکاملی با استفاده از یادگیری ماشین این است که الگوریتم‌های تکاملی در حین جستجو اطلاعاتی درباره?ی فضای جستجو و ویژگی‌های مسئله و جمعیت ذخیره می?کنند. سپس یادگیری ماشین جهت تحلیل این داد‌ه‌ها استفاده می?شود که موجب بهبود کارایی جستجو خواهد شد. در این راستا اطلاعات مفید می?تواند برای فهم نحوه?ی جستجو و کمک به جستجوهای آینده جهت یافتن بهینه سراسری، استخراج شود. در بسیاری از کاربرد‌ها ثابت شده است، الگوریتم‌های تکاملی‌ای که روش‌های یادگیری ماشین را به کار می?برند، در سرعت همگرایی و کیفیت جواب(راه حل) موثر هستند. الگوریتم CMA-ES یکی از الگوریتم‌های تکاملی است که با نمونه‌گیری از یک توزیع نرمال، جمعیت جدید را به وجود می‌آورد. یکی از پارامترهای توزیع نرمال، ماتریس کوواریانس می?باشد که در هر نسل به روز رسانی می?شود و در کیفیت جمعیت جدید این الگوریتم و در نتیجه، هدایت تکامل نقش مهمی دارد. بنابراین چگونگی به روز رسانی این ماتریس حائز اهمیت می‌باشد. از طرف دیگر، مدل DCC-GARCH نیز یکی از روش‌های یادگیری ماشین است که در مدل‌های اقتصادی کابردهای فراوانی دارد. این مدل برای پیش‌بینی سری‌های زمانی چند متغیره?ای استفاده می?شود که هر یک ازجملات آن، از یک توزیع نرمال با میانگین صفر و کوواریانس نمونه گیری شده باشد. این مدل برای پیش بینی جمله?ی بعدی سری زمانی، ماتریس کوواریانس آن را پیش بینی می?کند، به طوریکه نمونه گیری از آن به احتمال زیاد منجر به ایجاد جمله?ی بعدی سری زمانی مورد نظر می?شود. در این پایان نامه می?خواهیم از مدل DCC-GARCH برای بهبود الگوریتم CMA-ES استفاده نماییم. به اینصورت که بهترین گام در هر نسل، معادل یک جمله از سری زمانی در نظر گرفته می?شود و مدلDCC-GARCH از طریق این سری زمانی، ماتریس کوواریانس بهترین گام نسل آینده را پیش بینی می?کند. سپس این ماتریس کوواریانس به صورت مستقیم و غیر مستقیم در به روز رسانی ماتریس کوواریانس الگوریتم CMA-ES استفاده می?شود که نتایج و آزمایشات، بهبود قابل قبولی را نشان می?دهند. کلمات کلیدی: 1- الگوریتم‌های تکاملی 2- یادگیری ماشین 3- الگوریتم CMA-E 4- مدل DCC-GARCH

ارتقاء امنیت وب با وف بومی