Effective load-balancing systems for services hosted in unstructured networks need to take into account both the congestion of the network and the load on the servers. In this demonstration, we illustrate a comprehensive load-balancing solution that works well for such networks. The system we showcase, called Plug-n-Serve, tries to minimize response time by controlling the load on the network and the servers using customized flow routing. The demonstration shows how the Plug-n-Serve system works within our deployment in the CS building at Stanford University. Besides the base behavior, we show the effect of dynamically adding and removing computing resources to the system, increasing the request arrival rate, altering the CPU or network load of each request, and changing loadbalancing algorithms

چکیده

سیستم های متعادل سازی موثر بار برای سرویس های موردمیزبانی در شبکه های ساختار نیافته، نیازمند درنظر گرفتنِ ازدحام شبکه و بارِ روی سرور ها می باشند. در این مقاله، راهکاری جامع برای متعادل سازی بار را ارائه می کنیم که برای این گونه شبکه ها بخوبی به کار می آید. سیستمی که موضوع بحث ماست، Plug-n-Serve نام دارد، که با کنترل بار برروی شبکه و سرورهایی که از مسیرگزینی سفارشیِ جریان استفاده می کنند، سعی در کاهش زمان پاسخ گویی دارند. بررسی های ما نشان می دهد که سیستم Plug-n-Serve چطور در ساخت CS در دانشگاه استنفورد عمل می کند. علاوه بر رفتار اساسی آن، تاثیرِ افزودن و حذف پویای منابع محاسباتی به سیستم، افزایش نرخ ورود درخواست، تغییر CPU یا بار شبکه برای هر درخواست، و تغییر الگوریتم هیا متعادل سازی بار را نشان می دهیم.

1-انگیزه

متعادل سازی بار در سرورهای HTTP برای وب سایت های بزرگ، امری معمول است و محصولات تجاری زیادی برای انجام این کار موجود است. متعادل سازی بار ممکن است به شکل گمنام یا Oblivious (مثلاً انتشار درخواست بطور برابر در تمامی سرورها بدون توجه به بار آنها ) یا به شکل باحالت یا Stateful (مثلاً ارسال درخواست به سروری که کمترین بار را دارد) باشد. در یک مرکز داده یا یک سرویس اختصاصی برای هاستینگ وب، سرور های HTTP، توسط یک شبکه معین و اختصاصی به هم متصل می شوند؛ متعادل کننده های بار معمولاً هنگام ایجاد تعادل بار میان سرورها، وضعیت یا حالت شبکه را درنظر نمی گیرند...