day 18 - neural networks
(the activation function)

day 18 -
neural networks (the activation function)

السلام عليكم ورحمة الله... معاكم Kaito :)


مرحبا بيكم فالنهار 18 ديال سلسلة 30 يوم من التعلم الآلي..


اليوما غنشوفو واحد الكونسبت مهم


واللي ديجا دوينا عليه البارح


واللي هو دالة التنشيط Activation Function


وقلنا بلي هاد الدالة منطبقوها على قيمة مستوى تنشيط العصبون،


هو داك جمع ديال الجداء اللي دنا البارح


غنوقفو باش نعرفو بعدا شناهي ديك الدالة بالضبط


وشنو الانواع ديالها؟

programmerhumor-io-programming-memes-f5c681201fc3183.jpg (829×829)

كيما قلنا فالمايل اللي فات..


هاد activation function هي واحد الدالة غير خطية كتعمم اللاخطية non-linearity فالنتائج ديال المخرجات..


شنو كنعنيو بهاد الجملة؟


ديا كاينة عندنا 2 انواع من الداتا


O-4Y0l7GE0Toc9p8TiYgCMP6_096AbEYAJvdqEi4-aOBJC1P6P0e4O78T3SKCpdgwipuSzv2589EXcpIikaDuuqfRZQi9ABIvmZsgYbSo4V1X0H33y1h9GeKZA (466×233)


هاد الداتا الاولى نقدرو نخرجو منها الانماط باستعمل الدوال العادية بحال linear regression الخ…


ولكن الثانية لا.. مغنقدروش


1*h6cyp7M3gFLi9t3vI9uIzw.png (828×462)


لذلك هاد الشبكة العصبية باش تخرج لينا انماط مزيانين كيفما كانو،


كتخدم ب non-linearity


حيث اصلا الداتا اللي غتبقا تشوف ملي تخدم على بروجيات،


غالبيتهم كاملين غتلقاهم غير خطية..


غنعطيك مثال:


تخيل معايا باغي تطيب شي أكلة (مثلا طاجين)..



المكونات اللي كتزيد فالكاميلة


اعتبرهم هما قيم الادخال input


وكل مكون عندو وزن او اهمية معينة فالوصفة،


تماما يحال دوك المدخلات الموزونة weighted input اللي كاينين فالخلية neuron


مثلا الزيت كتديرها هو الاول عاد البصلة عاد اللحم…


كاين واحد الترتيب وواحد الاهمية كيستاهلها المكون


ديك الكاميلة هي داك neuron,


حيت فيها المكونات (inputs) كاملين مخلطين مجموعين تما


دبا ملي كتدير دكشي فالبوطاجي باش يطيب،


ديك الحرارة الي جاية من الموقد هي دالة التنشيط


حيت كيحول المكونات كاملين لواحد الطبق مطبوخ (طاجين مثلا)


وعلى حساب مستوى الحرارة (نوع ديال دالة التنشيط) اللي درتي،


دوك المكونات يقدرو يتحولو لاطباق (مخرجات) مختلفة


مثلا ايلا زدتي ليه بزاف غيولي كامل كحل ورماد مغيبقاش طاجين هههههه


لذلك فالشبكة العصبية،


هاد activation function هو داك التحويل اللي كيرد المدخلات الموزونة


الى مخرجات الخلية العصبية (الطاجين)

دبا حنا فهمنا البلان..


ولكن هاد مستويات الحرارة بغيت نعرفهوم


باش نشوف شمن وحدة نستعمل باش منحرقش الطاجين ديالي..


كاينين انواع كثار ديال activation functions


3eee0b_c027550e5c9249ea9da9a8464c49b194~mv2.png (600×412)


وحنا غنشوفو 4 اللي مشهورين وكافيين تعرفهم..


اول وحدة واللي هي اسهل وحدة: Threshold Function



فمحور الافاصيل (السطر اللي التحت)


هاديك هي قيمة المدخلات الموزونة "مستوى تنشيط العصبون"


ومحور الاراتيب (السطر اللي عمودي على اليسر)


هاديك قيمة النتيجة ديال الدالة (اللي غتكون فهاد الحالة 1 أو 0)


ايلا درنا داك الجداء والجمع ديال المدخلات مع الاوزان ديالهم


ولقينا بلي راه اكبر او يساوي 0


النتيجة اللي كتعطي الدالة (الطاجين) هي 1


ايلا مكانش كتولي القيمة 0


سهلة مهلة..



هاادي شفناها قبل ياك؟


ايلا معقلتيش سمح ليا راك ممتبعش


هاد الدالة ديجا شفناها ف logistic regression


وقلت ليكم ديجا عقلو عليها


الكونسبت ديالها بحال جارتها Threshold


غير هي شوية فيها الفاصلة..


يعني عندك مابين 0 و 1 اه


ولكن فهادي كتعطيك حتا مورا الفاصلة


ف Threshold لا.. يا اما 0 يا اما 1




هادي هي حبيبة الجماهير..


الكونصبت ديالها او ايلا كانت القيمة ديال المدخلات الموزونة اقل من 0


كتكون النتيجة 0


ايلا كانت كثر من 0 كتبقا هي هي


مثلا حسبنا لقينا 10 النتيجة كتولي 10


لقينا 66.2 النتيجة هي 66.2


لقينا 5.4- النتيجة كتولي 0




هادي هي مسخوطة الجماهير..


ولكن صراحة غير الدالة كتخلع بكثرة exponentiel


راه سهلة حتا هي


هي بحالها بحال sigmoid ولكن هابطة ل 1-


اذن القيمة ديال المدخلات الموزونة ملي كتكون قل من 0


كتهبط فحدود 1-


ايلا كانت اكثر كتطلع فحدود 1


هادا هو البلان


هادي كانت اطلالة خفيفة على هاد دوال التنشيط


حيثاش الناس كيقولو واو هادشي فيه شي ماط خطير


هو الصراحة متعمقناااش بزاف فيهم


الغرض من هذا الجزء من التعلم العميق


هو نعرفو هاد الوظائف كمفاهيم


ونبينو الاختلافات بين وظيفة وأخرى


ايلا بغيتي تعمق اكثر فهاد البلان بزاف ويضرك راسك


كنقتارح عليك هاد الورقة العلمية


كنعاودها.. ماشي ضروري تقرا او تفهم هدشي…


(انا مكملتهاش حيت فيها شي ماط خايب هه)


نتا غير فهم basics وطبق وكودي


مع تلقا راسك مرتاح مع هاد التطبيق وهدشي كامل ضابطو


ديك الساعة سير تعمق مع راساتك..


هادي خلاصة اليوم:



نتلاقاو فايمايل اخر غدا!


كنتمنى تكونو استافدتو.. ايلا عندكم شي تساؤل اولا مشرحتش شي حاجة مزيان، غير صيفط ليا رد فهاد المايل نيت..



— Kaito



ملاحظات:


rest-9a9e6b30329429d1385775297f1ac9d1-a5esznpy.jpg (1200×600)


السلام عليكم ورحمة الله... معاكم Kaito :)


مرحبا بيكم فالنهار 18 ديال سلسلة 30 يوم من التعلم الآلي..


اليوما غنشوفو واحد الكونسبت مهم


واللي ديجا دوينا عليه البارح


واللي هو دالة التنشيط Activation Function


وقلنا بلي هاد الدالة منطبقوها على قيمة مستوى تنشيط العصبون،


هو داك جمع ديال الجداء اللي دنا البارح


غنوقفو باش نعرفو بعدا شناهي ديك الدالة بالضبط


وشنو الانواع ديالها؟

programmerhumor-io-programming-memes-f5c681201fc3183.jpg (829×829)

كيما قلنا فالمايل اللي فات..


هاد activation function هي واحد الدالة غير خطية كتعمم اللاخطية non-linearity فالنتائج ديال المخرجات..


شنو كنعنيو بهاد الجملة؟


ديا كاينة عندنا 2 انواع من الداتا


O-4Y0l7GE0Toc9p8TiYgCMP6_096AbEYAJvdqEi4-aOBJC1P6P0e4O78T3SKCpdgwipuSzv2589EXcpIikaDuuqfRZQi9ABIvmZsgYbSo4V1X0H33y1h9GeKZA (466×233)


هاد الداتا الاولى نقدرو نخرجو منها الانماط باستعمل الدوال العادية بحال linear regression الخ…


ولكن الثانية لا.. مغنقدروش


1*h6cyp7M3gFLi9t3vI9uIzw.png (828×462)


لذلك هاد الشبكة العصبية باش تخرج لينا انماط مزيانين كيفما كانو،


كتخدم ب non-linearity


حيث اصلا الداتا اللي غتبقا تشوف ملي تخدم على بروجيات،


غالبيتهم كاملين غتلقاهم غير خطية..


غنعطيك مثال:


تخيل معايا باغي تطيب شي أكلة (مثلا طاجين)..



المكونات اللي كتزيد فالكاميلة


اعتبرهم هما قيم الادخال input


وكل مكون عندو وزن او اهمية معينة فالوصفة،


تماما يحال دوك المدخلات الموزونة weighted input اللي كاينين فالخلية neuron


مثلا الزيت كتديرها هو الاول عاد البصلة عاد اللحم…


كاين واحد الترتيب وواحد الاهمية كيستاهلها المكون


ديك الكاميلة هي داك neuron,


حيت فيها المكونات (inputs) كاملين مخلطين مجموعين تما


دبا ملي كتدير دكشي فالبوطاجي باش يطيب،


ديك الحرارة الي جاية من الموقد هي دالة التنشيط


حيت كيحول المكونات كاملين لواحد الطبق مطبوخ (طاجين مثلا)


وعلى حساب مستوى الحرارة (نوع ديال دالة التنشيط) اللي درتي،


دوك المكونات يقدرو يتحولو لاطباق (مخرجات) مختلفة


مثلا ايلا زدتي ليه بزاف غيولي كامل كحل ورماد مغيبقاش طاجين هههههه


لذلك فالشبكة العصبية،


هاد activation function هو داك التحويل اللي كيرد المدخلات الموزونة


الى مخرجات الخلية العصبية (الطاجين)

دبا حنا فهمنا البلان..


ولكن هاد مستويات الحرارة بغيت نعرفهوم


باش نشوف شمن وحدة نستعمل باش منحرقش الطاجين ديالي..


كاينين انواع كثار ديال activation functions


3eee0b_c027550e5c9249ea9da9a8464c49b194~mv2.png (600×412)


وحنا غنشوفو 4 اللي مشهورين وكافيين تعرفهم..


اول وحدة واللي هي اسهل وحدة: Threshold Function



فمحور الافاصيل (السطر اللي التحت)


هاديك هي قيمة المدخلات الموزونة "مستوى تنشيط العصبون"


ومحور الاراتيب (السطر اللي عمودي على اليسر)


هاديك قيمة النتيجة ديال الدالة (اللي غتكون فهاد الحالة 1 أو 0)


ايلا درنا داك الجداء والجمع ديال المدخلات مع الاوزان ديالهم


ولقينا بلي راه اكبر او يساوي 0


النتيجة اللي كتعطي الدالة (الطاجين) هي 1


ايلا مكانش كتولي القيمة 0


سهلة مهلة..



هاادي شفناها قبل ياك؟


ايلا معقلتيش سمح ليا راك ممتبعش


هاد الدالة ديجا شفناها ف logistic regression


وقلت ليكم ديجا عقلو عليها


الكونسبت ديالها بحال جارتها Threshold


غير هي شوية فيها الفاصلة..


يعني عندك مابين 0 و 1 اه


ولكن فهادي كتعطيك حتا مورا الفاصلة


ف Threshold لا.. يا اما 0 يا اما 1




هادي هي حبيبة الجماهير..


الكونصبت ديالها او ايلا كانت القيمة ديال المدخلات الموزونة اقل من 0


كتكون النتيجة 0


ايلا كانت كثر من 0 كتبقا هي هي


مثلا حسبنا لقينا 10 النتيجة كتولي 10


لقينا 66.2 النتيجة هي 66.2


لقينا 5.4- النتيجة كتولي 0




هادي هي مسخوطة الجماهير..


ولكن صراحة غير الدالة كتخلع بكثرة exponentiel


راه سهلة حتا هي


هي بحالها بحال sigmoid ولكن هابطة ل 1-


اذن القيمة ديال المدخلات الموزونة ملي كتكون قل من 0


كتهبط فحدود 1-


ايلا كانت اكثر كتطلع فحدود 1


هادا هو البلان


هادي كانت اطلالة خفيفة على هاد دوال التنشيط


حيثاش الناس كيقولو واو هادشي فيه شي ماط خطير


هو الصراحة متعمقناااش بزاف فيهم


الغرض من هذا الجزء من التعلم العميق


هو نعرفو هاد الوظائف كمفاهيم


ونبينو الاختلافات بين وظيفة وأخرى


ايلا بغيتي تعمق اكثر فهاد البلان بزاف ويضرك راسك


كنقتارح عليك هاد الورقة العلمية


كنعاودها.. ماشي ضروري تقرا او تفهم هدشي…


(انا مكملتهاش حيت فيها شي ماط خايب هه)


نتا غير فهم basics وطبق وكودي


مع تلقا راسك مرتاح مع هاد التطبيق وهدشي كامل ضابطو


ديك الساعة سير تعمق مع راساتك..


هادي خلاصة اليوم:



نتلاقاو فايمايل اخر غدا!


كنتمنى تكونو استافدتو.. ايلا عندكم شي تساؤل اولا مشرحتش شي حاجة مزيان، غير صيفط ليا رد فهاد المايل نيت..



— Kaito



ملاحظات:


rest-9a9e6b30329429d1385775297f1ac9d1-a5esznpy.jpg (1200×600)


التالي