1. No category

Chapter 6 (p185(
3-Multivariable optimization with inequality constraints:
The general form:
Max or Min Z  f ( xi )  f ( x1 ,....... xn )
St
g j ( xi )  0
, ( j  1,2,..........m)
xi  0
(Constrained < Variable) 
 ( m < n )
Methods of solution:
(1) Classical method : (Lagrange Multiples) + (Kuhn-Tucker).
(2) Kuhn–Tucker conditions stationary.
(3) Direct method (p210).
(4) Indirect method.
(1) Classical method:[ (Lagrange Multiples) +(Kuhn-Tucker)
: ‫ مضارب الجرنج [ كما يلي‬+ ‫ توكر‬-‫الطريقة التقليدية ]شروط كون‬(Slack variables) ‫ تحول المتباينات إلى معادالت بإضافة المتغيرات المتممة أو اإلضافية‬-1
M 2j  g j ( x)  0
j  1,2,........m
: ‫( [ كما يلي‬Kuhn-Tucker) +(Lagrange Multiples)] ‫ تكون دالة‬-2
m
L ( xi , ,  j , M j )  f ( xi )    j [( g j ( xi )  M 2j ]
j 1
3- Necessary condition
L
L
L
,
.
x i
 j
M j
: ‫ يكون الحل المتوقع في الحاالت التالية‬-4
: ‫الحالة األولى‬

( xi , i ( ‫ ثم نحل المعادالت إليجاد بقية المجاهل‬M j  0 ‫عندما‬
: ‫الحالة الثانية‬

( xi , M j ( ‫ ثم نحل المعادالت إليجاد بقية المجاهل‬ j  0 ‫عندما‬
5- Optimal Solution:
:‫ثم يتم التعويض في دالة الهدف في كل القيم الحرجة بعد حل المعادالت‬
‫ اكبر قيمة موجبة تمثل نهاية عظمى‬. ‫ واصغر قيمة (موجبة آو سالبة ) تمثل نهاية صغرى‬-
1
‫ افراح الرزامي‬/‫د‬
(6-1) Example:
(p189)
Find (Maximum or Minimum) limit of the Objective function of the following:
Z  f ( x1 , x2 )  2 x12  3x22  2 x1
St
g 1( xi )  x12  x22 1
Using Classical method [ (Kuhn-Tucker) +(Lagrange Multiples)]
Solution:
M 2j  g j ( xi )  0
: ‫( كما يلي‬Slack variables) ‫ نعرف المتغير المتمم أو اإلضافي‬-1
. ‫ عدد حقيقي موجب‬M ‫حيث‬
M12  1  x12  x22  0  M12  1  x12  x22  0
: ‫( كما يلي‬Kuhn-Tucker) ‫ توكر‬-‫ شروط كون‬+ (Lagrange) ‫ تكون دالة الجرنج‬-2
L ( x1 , x2 ,  , M )  2 x12  3x22  2 xi  1 ( M 2  1  x12  x22 )
3- Necessary condition
L
 4 x1  2  21 x1  0
x1
L
  6 x2  21 x2  0
x2
L
 M 2  1  x12  x22  0
1
L
 2 M 1
M
: ‫ الحل المتوقع في الحاالت التالية‬-4
‫الحالة األولى‬
( xi , 1 ( ‫ ثم نحل المعادالت إليجاد بقية المجاهل‬M j  0 ‫عندما‬
: ‫يصبح الشرط الضروري لالجرانج كما يلي‬

4 x1  2  2 x1  0  2 x1  x1  1
(1)
 6 x2  2 x2  0
 3x2  x2  0
( 2)
 1  x12  x22  0
 x12  x22  1
(3)
: ‫بحل المعادالت السابقة باستخدام طريقة التعويض‬
: ‫) نجد أن‬2( ‫من المعادلة‬
 3x2  x2  0  x2 ( 3   )  0  ( x2  0 ,   3)
: x1 ‫) إليجاد قيمة‬1( ‫نعوض في المعادلة‬
2 x1  x1  1 2 x1  3x1  1  5x1  1  x1  0.2
2
‫ افراح الرزامي‬/‫د‬
‫أوال‪ :‬عندما تكون ( ‪: ( x2  0‬‬
‫نعوض في المعادلة (‪ )3‬إليجاد قيمة ‪: x 2‬‬
‫‪x12  x22  1  (0.2) 2  x22 1  x22  1  0.04  x22  0.96  x2   0.96‬‬
‫إذن تكون القيم الحرجة ‪( x1  0.2 , x2   0.96 ) :‬‬
‫أذن تكون قيمة دالة الهدف ‪:‬‬
‫‪Z  f ( x1 , x2 )  2 x  3x  2 x1  f (0.2 , 0.96 )  0.08 - 3(  0.96 ) 2 - 0.4‬‬
‫‪2‬‬
‫‪1‬‬
‫‪2‬‬
‫‪2‬‬
‫‪ f (0.2 , 0.96 )  0.08  3(0.96)  0.4  0.08  2.88  0.4  3.2‬‬
‫‪ when f (0.2 ,  0.96 )  Z  -3.2‬‬
‫ثانيا ‪ :‬عندما تكون ( ‪: ( x2  0‬‬
‫نعوض في المعادلة (‪ )3‬إليجاد قيمة ‪: x1‬‬
‫‪x12  x22  1  x12  (0)  1  x12  1  x1  1‬‬
‫)‪( x1  1 , x2  0) or ( x1  1 , x2  0‬‬
‫أذن تكون القيم الحرجة‬
‫و تكون قيمة دالة الهدف ‪:‬‬
‫‪Z  f ( x1 , x2 )  2 x12  3x22  2 x1  f (1,0)  2 - 0 - 2  0‬‬
‫‪And‬‬
‫‪Z  f ( x1 , x2 )  2 x12  3x22  2 x1  f (-1,0)  2 - 0  2  4‬‬
‫الحالة الثانية ‪:‬‬
‫عندما ‪  j  0‬ثم نحل المعادالت إليجاد بقية المجاهل ( ‪( xi , M‬‬
‫يصبح الشرط الضروري لالجرانج كما يلي ‪:‬‬
‫)‪(1‬‬
‫‪‬‬
‫‪2 x1  1  0‬‬
‫‪ 3 x2‬‬
‫)‪(2‬‬
‫‪0‬‬
‫)‪(3‬‬
‫‪M 2  1  x12  x22  0‬‬
‫بحل المعادالت السابقة ‪:‬‬
‫‪2 x1  1  0  x1  0.5‬‬
‫من المعادلة (‪ )1‬نجد أن ‪:‬‬
‫‪ 3x2  0  x2  0‬‬
‫من المعادلة (‪ )2‬نجد أن ‪:‬‬
‫نعوض في المعادلة (‪ )3‬إليجاد قيمة ‪M‬‬
‫‪2‬‬
‫‪2‬‬
‫‪2‬‬
‫‪2‬‬
‫‪2‬‬
‫‪2‬‬
‫‪2‬‬
‫)‪M  1  x1  x2  M  1  (0.5)  (0)  M  0.75  ( ‬‬
‫إذن قيمة ‪ M‬موجبة ‪.‬‬
‫‪3‬‬
‫د‪ /‬افراح الرزامي‬
: ‫و تكون القيم الحرجة‬

1
( x  0.5 ,

2
x  0)
: ‫إذن تكون قيمة دالة الهدف‬
Z  f ( x1 , x2 )  2 x  3x  2 x1  f (0.5 ,0)  0.5 - 0  1  0.5
2
1
2
2
5- Optimal Solution:
: ‫مما سبق نالحظ أن النهاية الصغرى لدالة الهدف تتحقق عند النقطة‬
Z  f (0.2 , 0.96 )  3.2 
 Optimal Solution (Min)
: ‫و النهاية العظمى لدالة الهدف تتحقق عند النقطة‬
Z  f (-1,0)  4 
 Optimal Solution (Max)
2- Kuhn–Tucker conditions stationary mothed: ( ‫( (شروط كون – توكر المستقرة‬p 193)
Lagrange multiplier  L ( xi ,  j )  f ( xi )   j g i ( xi )
T
: ‫تطبق (شروط كون – توكر المستقرة ) في أربع حاالت‬
(A) Min Z  f ( xi )
St
g j ( x)  0
, ( j  1,2,..........m)
Necessary condition:
g j
L f

 Tj
 0,
xi xi
xi
 j g j ( x)  0,
m
where : T    
i  1,2,, n
j 1
j  1,2,, m
g j ( x)  0,
 j  0,
(B) Min Z  f ( xi )
St
g j ( x)  0
, ( j  1,2,..........m)
Necessary condition
g j
L f

 T
 0,
xi xi
xi
 j g j ( x)  0,
i  1,2,, n
j  1,2,, m
g j ( x)  0,
 j  0,
4
‫ افراح الرزامي‬/‫د‬
j
(C) Max Z  f ( xi )
St
g j ( x)  0
, ( j  1,2,..........m)
Necessary condition
g j
L f

 T
 0, i  1,2,, n
xi xi
xi
 j g j ( x)  0,
j  1,2,, m
g j ( x)  0,
 j  0,
(D) Max Z  f ( xi )
St
g j ( x)  0
, ( j  1,2,..........m)
Necessary condition
g j
L f

 T
 0, i  1,2,, n
xi xi
xi
 j g j ( x)  0,
j  1,2,, m
g j ( x)  0,
 j  0,
[ f ( xi ) and g j ( x )] ‫أن شروط (كون – توكر المستقرة ) تكون ضرورية وكافية أذا كانت‬
: ‫ في الحاالت التالية‬, (Convex ( ‫دوال محدبة‬
Min f (X)
subject to
gj (X) ≤ 0,
Or Min f (X)
subject to
gj (X) ≥ 0
j=1, 2,…,m
The inequality constraints can be transformed to equality constraints by
adding nonnegative slack variables, Mj2, as
5
‫ افراح الرزامي‬/‫د‬
- The Kuhn-Tucker conditions can be stated as follows:
(B) Min Z  f ( xi )
St
g j ( x)  0
, ( j  1,2,..........m)
Necessary condition
g j
L f

 T
 0, i  1,2,, n
xi xi
xi
 j g j ( x)  0,
j  1,2,, m
g j ( x)  0,
 j  0,
(6-1) Example 2:
( P 199 )
Find Minimum limit of the Objective function of the following:
Min Z  f ( x1 , x2 , x3 )  x12  x22  x32  40 x1  20 x2  3000
St
x1  50  0
x1  x2  100  0
x1  x2  x3  150  0
Using Kuhn–Tucker conditions stationary method
Solution:
T
Lagrange multiplier  L ( xi ,  j )  f ( xi )   j gi ( xi )
L ( xi ,  j )  ( x12  x22  x32  40 x1  20 x2  3000)  1 ( x1  50 )
 2 ( x1  x2  100 )  3( x1  x2  x3  150 )
1- The first Kuhn–Tucker conditions stationary:
L
 2 x1  40  1  2  3  0
x1
(E1)
L
 2 x2  20  2  3  0
x2
(E2)
L

x3
(E3)
2 x3  3  0
6
‫ افراح الرزامي‬/‫د‬
2-The second Kuhn Tucker condition is given by :
 j g j  0,
j  1,2,3
that is
1 ( x1  50)  0
(E4)
2 ( x1  x2  100)  0
(E5)
3 ( x1  x2  x3  150)  0
(E6)
3-The third Kuhn Tucker condition is given by :
g j (x )  0
j  1,2,3
that is,
( x1  50)  0
(E7)
( x1  x 2  100)  0
(E8)
( x1  x 2  x3  150)  0
(E9)
4-The fourth Kuhn Tucker condition is given by :
 j ( 1 , 2 , 3 )  0
1 ( x1  50 )  0 
1  0
j  1,2,3 ( E10)
or
x1  50
: ‫لحل المعادالت‬
: )4( ‫من المعادلة‬
Case I: 1=0
Equations (E1) to (E3) give:
3


2

2 3

2 x2  20  2  3  0  x2  10 

  (E11)
2
2

2 3 
2 x1  40  1  2  3  0  x1  20 
 
2
2
2 x3  3  0  x3  
Substituting Equations (E11) into Eqs. (E5) and (E6) give:
2 ( x1  x2  100 )  0  2 [20  (2 / 2)  (3 / 2)  10  (2 / 2)  (3 / 2)  100]  0
 2 ( 130  2  3 )  0
7
‫ افراح الرزامي‬/‫د‬
3 ( x1  x2  x3  150 )  0  3 [20  (2 / 2)  (3 / 2) 
 10  (2 / 2)  (3 / 2)  ( 3 / 2)  150]  0
 3 [180  2  (3 / 2) 3 ]  0
2 ( 130  2  3 )  0 

  (E12)
3
3 ( 180  2  3 )  0

2
: ‫ حلول ممكنة‬4 ‫اذن لحل المعادلتين توجد‬
The four possible solutions of Eqs. (E12) are:
. [(2  0) ,
1. 2=0,
( 180  2  (3 / 2) 3  0)] : ‫الحل األول‬
-180- 2-3/2 3=0.
These equations along with Eqs. (E13) yield the solution:
[2=0, 3=-120, x1=40, x2=50, x3=60]
This solution not satisfies Eqs.(E7) and (E8) hence can not be optimum
2.
3=0,
. [3  0 ,  130  2  3  0] : ‫الحل الثاني‬
-130- 2-3=0. The solution of these equations leads to:
[ 2=-130, 3=0, x1=45,
x2=55, x3=0]
This solution not satisfies(E7) and (E9) and hence can not be optimum.
:‫الحل الثالث‬
 130  2  3  0   2  3  130
 180  2  (3 / 2) 3  0  2  (3 / 2) 3  180
: ‫نحل المعادلتين باستخدام االلة الحاسبة‬
2 =-30,
3 =-100
And the solutions of these equations:
2 x1  40  1  2  3  0  2 x1  40  30  100  0
 x1  45
2 x2  20  2  3  0  2 x2  20  30  100  0
 x2  55
2 x3  3  0  2 x3  100  0
 x3  50
( x1=45, x2=55,
x3=50)
This solution not satisfies (E7) and hence can not be optimum.
8
‫ افراح الرزامي‬/‫د‬
x1  50  0  45  50  0
x1  x2  100  0  45  55  100  0
x1  x2  x3  150  0  45  55  50  150  0
Case II: x1=50.
In this case, Eqs. (E1) to (E3) give:
: ‫من الشرط االول (شروط كون – توكر المستقرة ) تصبح المعادالت‬
2 x1  40  1  2  3  0 
 1  140  2  3 

2 x2  20  2  3  0

 2  2 x2  20  3   ( E 13 )

2 x3  3  0

 3  2 x3

Substitution of Eqs.(E13) in Eqs
2 ( x1  x2  100)  0
(E5)
3 ( x1  x2  x3  150)  0
(E6)
(20  2 x2  2 x3 )(50  x2  100)  0
  (E14)
(2 x3 )(50  x2  x3  150)  0 
: ‫ حلول ممكنة أيضا‬4 ‫اذن لحل هذه المعدالت توجد‬
(20  2 x2  2 x3 ) ( x2  50 )  0
( 2 x3 ) ( x2  x3  100 )  0
‫سوف يتم اهمال الحل للمتغيرات التي قيمها اصفار في المعادالت‬
[2 x3  0] : ‫الحل األول‬
. ‫[ يهمل‬20  2 x2  2 x3  0]
. ‫ ([ يهمل‬x2  50 )  0] [  2 x3  0] :‫الحل الثاني‬
:‫الحل الثالث‬
 2 x2  2 x3  20
x2  x3  100
‫حل المعادالت باستخدام االلة‬
:‫الحاسب‬
( x3  55
x2  45
x1  50)
This solution not satisfies Eq.(E8) which says:
x1  50  0  50  50  0
E7
x1  x 2  100  0  50  45  100  0
E8
x1  x 2  x3  150  0  50  45  55  150  0
9
‫ افراح الرزامي‬/‫د‬
E9
‫الحل الرابع‬
( x2  50 )  0
x2  x3  100  0  50  x3  100  0
 x2  50
 x3  50
The solution of these equations yields:
[x1 = 50,
x2 = 50,
x3 = 50]
This solution can be seen to satisfy all the constraint Eqs.(E7-E9) which say:
( x1  50)  0
(E7)
( x1  x2  100)  0
(E8)
( x1  x2  x3  150)  0
(E9)
: ( x3
 50
x2  50
,
x1  50) :‫إذن الحل األمثل‬
f ( x1 , x2 , x3 )  7500
Exersece
Consider the problem:
Minimize f(x1,x2)=(x1-1)2 +x22
S .t
x13-2x2≤ 0
x13+2x2≤ 0
The Kuhn Tucker conditions can be written using the equations
Solution:
(A)
g
L f

 Tj j  0, i  1,2,, n
x1 xi
xi
 j g j  0,
j  1,2,, m
g j  0,
j  1,2,, m
 j  0,
j  1,2,, m
10
‫ افراح الرزامي‬/‫د‬
: ‫وتكون دالة الهدف‬