Abstract
 

An evolutionary recurrent network which automates the design of recurrent neural/fuzzy networks using a new evolutionary learning algorithm is proposed in this paper. This new evolutionary learning algorithm is based on a hybrid of genetic algorithm (GA) and particle swarm optimization (PSO), and is thus called HGAPSO. In HGAPSO, individuals in a new generation are created, not only by crossover and mutation operation as in GA, but also by PSO. The concept of elite strategy is adopted in HGAPSO, where the upper-half of the best-performing individuals in a population are regarded as elites. However, instead of being reproduced directly to the next generation, these elites are first enhanced. The group constituted by the elites is regarded as a swarm, and each elite corresponds to a particle within it. In this regard, the elites are enhanced by PSO, an operation which mimics the maturing phenomenon in nature. These enhanced elites constitute half of the population in the new generation, whereas the other half is generated by performing crossover and mutation operation on these enhanced elites. HGAPSO is applied to recurrent neural/fuzzy network design as follows. For recurrent neural network, a fully connected recurrent neural network is designed and applied to a temporal sequence production problem. For recurrent fuzzy network design, a Takagi–Sugeno–Kang-type recurrent fuzzy network is designed and applied to dynamic plant control. The performance of HGAPSO is compared to both GA and PSO in these recurrent networks design problems, demonstrating its superiority

چکیده

در این مقاله قصد داریم یک شبکه های باز رخدادگری که پروسه ی طراحی شبکه های فازی/عصبی را با استفاده از الگوریتم های یادگیری جدید توسعه می­دهد، ارائه دهیم: این الگوریتم یادگیری جدید، بر مبنای ترکیبی از الگوریتم ژنتیک(GA) و بهینه سازی ازدحام ذرات(PSO) بوده که آنرا HGAPSO نام گذاری می­کنیم. در این الگوریتم، عناصر منفرد در یک نسل جدید ایجاد شده که این کار نه تنها به وسیله ی عملیات جهش و عملیات همگذری صورت میگیرد، بلکهPSO نیز در این پروسه نقش دارد. مفهوم استراتژی نخبه نیز در HGAPSO بکار گرفته شده است که در آن، نیمه ی بالایی عناصری که عملکرد خوبی دارند، به صورت مستقیم در نسل بعدی تولید میشوند. گروه ایجاد شده به وسیله ی این عناصر ، به عنوان یک ازدحام در نظر گرفته شده و هر عنصر نیز متناظر با یک ذره در داخل این گروه می­باشد. از این رو، این عناصر به وسیله ی PSO بهبود پیدا کرده و این عملیاتی است که از پدیده ی جهش در طبیعت طبیعت میکند. این عناصر بهبود یافته، نیمی از جمعیت نسل جدید را تشکیل میدهند، در حالی که نیمه ی دیگر نیز به وسیله ی اعمال عملیات همگذری و جهش بر روی این نیمه بدست می­آید. HGAPSO نیز برای طراحی شبک فازی/عصری باز رخداد گر استفاده می­شود. برای این شبکه ها، از یک شبکه ی عصبی باز رخدادگر متصل استفاده شده که بر روی یک مسئله ی تولید پشت سر هم موقف بکار گرفته میشود. به منظور طراحی شبکه فازی باز رخداد گر، از یک شبکه ی فازی نوع  takagi-sugeno استفاده شده است که در کنترل برنامه ی پویا بکار گرفته شده است. کارائی روش پیشنهادی ما ، با هر دو روش های GA و PSO مقایسه شده است و برتری آنرا به اثبات رسانیده است

1-مقدمه

با ظهور و پیشرفت سیستم های محاسباتی، گرایش به منظور ایجاد منابع جدید به منظور بهینه سازی حل مسائلی مانند طراحی بهینه ی شبکه های عصبی و سیستم های فازی  نیز افزایش یافته است. در مقایسه با سیستم های محاسباتی مرسوم که بر اساس محاسبات دقیق عملکرد خوبی دارند، روش های محاسباتی تکامل یافته میتوانند روش هایی کارآمد تر و قوی تر را برای حل مسائل واقعی پیجیده ارائه دهند[1],[3]. بسیاری از الگوریتم های تکاملاتی، مانند الگوریتم جنریک[4]، برنامه نویسی جنریک[5] ،برنامه نویسی تکاملاتی [6]، و استراتژی های تکاملی [7] ارائه شده اند. از آنجایی که این روش ها بیشتر هیروستیک و استوکاستیک (اکتشافی ) هستند، همه ی آنها با احتمال کمی قادر به بدست آوردن کمینه ی محلی هستند و بیشتر مبتنی بر جمعیت های ایجاد شده از عناصری هستند که رفتار خاصی مشابه با پدیده های بیولوژیک دارند. این مشخصه های رایج، منجر به توسعه ی محاسبه ی تکاملاتی، به عنوان یک حوزه ی پژوهشی مهم در نظر گرفته شده است...