RNN సమస్యలు సులభ భాషలో సబ్టైటిల్స్ డౌన్లోడ్ చేయండి
6. Problems of RNN Explained in Telugu | Deep Learning Concepts Simplified | Neuro Splash(Telugu)
Neuro Splash (Telugu)
SRT - Most compatible format for video players (VLC, media players, video editors)
VTT - Web Video Text Tracks for HTML5 video and browsers
TXT - Plain text with timestamps for easy reading and editing
Scroll to view all subtitles
హలో ఎవరీవన్ ముందు వీడియోలో నేను ఆల్రెడీ
క్లియర్ గా ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం
అండ్ ఇంకా బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ
టైం అనే కాన్సెప్ట్స్ క్లియర్ గా
ఎక్స్ప్లెయిన్ చేశాను. ఒకవేళ చూడకపోతే ఆ
పర్టికులర్ వీడియోనఅయితే చూసేయండి
అన్నమాట. ఈ వీడియోలో మనం ఈఆర్ఎన్ లో ఉండే
ప్రాబ్లమ్స్ గురించి డిస్కస్ చేద్దాము.
బేసికల్లీ మీకు టైం వైస్ ఇన్పుట్స్ వచ్చి
అవుట్పుట్స్ ఎలా వస్తాయో చూపించడానికి
నేను ఈ స్ట్రక్చర్ ని అయితే వాడుతున్నాను
కానీ మీ సింపుల్ ఆర్ఎన్ఏ అయితే ఇలానే
ఉండిద్ది అన్నమాట ఓకే ఈ స్ట్రక్చర్ కే మనం
టైం వైస్ ఇన్పుట్స్ పంపిస్తాము అండ్ ఇంకా
మనకి టైం వైస్ అవుట్పుట్స్ వస్తాయి
అన్నమాట. సో ఈ పాయింట్ మీకు క్లియర్ గా
అర్థమయింది అని అనుకుంటున్నాను. ఇప్పుడు ఈ
పర్టికులర్ వీడియోలోకి అయితే వెళ్ళిపోదాం.
ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటే ఏంటి
జస్ట్ మనం టైం వైస్ ఇన్పుట్స్ పాస్ చేసి
అవుట్పుట్ తెచ్చుకోవడాన్నే సింపుల్ గా
ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటాం.
వేర్ యస్ బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం
అంటే మనకి ann ఇంకాసిnన్ లో మనం వెయిట్స్
ఎలా అయితే అప్డేట్ చేస్తామో దాన్నే మనం
బ్యాక్వర్డ్ ప్రాపగేషన్ అంటాం. ఐదర్ anన్n
ఆర్ cn లో వర్ స్ ఓవర్ హియర్ ఇక్కడ కూడా
సేమ్ కాన్సెప్ట్ే కాకపోతే ఇక్కడ టైం వైస్
వెయిట్స్ అప్డేట్ చేస్తాం లైక్ ఇవన్నీ
వెయిట్స్ మనకి ఈక్వివలెంట్ే లైక్ఈడబల్య
నాట్ అండ్ ఇంకాఈడబల్నాట్ అనేవి
ఈక్వివలెంట్ అయినా సరే వీటిని మల్టిపుల్
టైమ్స్ అప్డేట్ చేస్తాం ఎందుకంటే ఇవి టైం
వైస్ అప్డేట్ అవుతాయి కాబట్టి అందుకే మనం
ఇవి మల్టిపుల్ టైమ్స్ అప్డేట్ చేస్తాం
అన్నమాట అండ్ ఇంకా ఈ కాన్సెప్ట్ ని
బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటాం. ఈ
పాయింట్ మీకు అర్థమైంది అనుకుంటున్నాను.
ఫర్ ఎగ్జాంపుల్ మనం ఈ టైం స్టాంప్ అంటే
ఫస్ట్ టైం స్టాంప్ లో ఉన్నడబ్ల్య నా ని
అప్డేట్ చేయాలనుకుంటున్నాం. ఇలా బ్రాకెట్
లో జీరో పెట్టానంటే టైం స్టాంప్ జీరో అని
అర్థం. అండ్ బ్రాకెట్ లో వన్ పెడితే టైం
స్టాంప్ వన్ అలా అర్థం చేసుకోండి. లెట్స్
సే టైం స్టాంప్ మనం వన్ తో స్టార్ట్
చేస్తున్నామ అనుకోండి. సో అప్పుడు wబనా
టైం స్టాంప్ 1 అండ్ ఇంకా ఇది wబనా టైం
స్టాంప్ 2 w టైం స్టాంప్ 3 అండ్ w టైం
స్టాంప్ ఫోర్ అనుకుందాం ఒక పర్టికులర్
డెరివేటివ్ తీసుకుందాము డెరివేటివ్
తీసుకొని దాన్ని ఎక్స్పాండ్ చేస్తాను
అప్పుడు మీకు క్లియర్ గా అర్థమైపోయిద్ది
ఇవి ఎలా అప్డేట్ అవుతాయి ఏంటి అనేది అండ్
దీనికన్నా ముందు ఒక ప్రీ రిక్వసెట్ వీడియో
ఏంటంటే వానిషింగ్ ఇంకా ఎక్స్ప్లోడింగ్
గ్రేడియంట్స్ ప్రాబ్లం తాలకు వీడియో
చూడండి ఒకవేళ అది చూడకపో పోతే నేను దాని
లింక్ అనేది డిస్క్రిప్షన్ లో లేదా
కామెంట్ సెక్షన్ లో పెడతాను. సో ఫస్ట్ ఆ
వీడియో చూసేసి ఆ తర్వాత అయితే ఈ
పర్టికులర్ వీడియోలోకి రండి. అప్పుడు ఇది
ఇంకా బాగా అర్థంవుతది. మీకు ఆల్రెడీ
తెలుసు రికరెంట్ న్యూరల్ నెట్వర్క్ లో
మీకు హైపోతసిస్ ఏంటి హైపోతసిస్ అంటే ఈ
మొత్తాన్ని మనం హైపోతసిస్ అంటామ అన్నమాట.
బేసికల్లీ మనం న్యూరల్ నెట్వర్క్స్ లో
హైపోతసిస్ ని హోల్ నెట్వర్క్ స్ట్రక్చర్
గా చూస్తాం. సో అందుకే రికరల్ న్యూరల్
నెట్వర్క్ లో సింపుల్ గా ఈ మొత్తాన్ని మనం
మన హైపోతసిస్ అనుకోవచ్చు లేదా ఈ
మొత్తాన్ని కూడా మన హైపోతసిస్ అనుకోవచ్చు
అన్నమాట. బోత్ ఆర్ ఈక్వివలెంట్ సో ఇది మన
హైపోతసిస్ వన్స్ హైపోతసిస్ అయిపోయిన
తర్వాత నెక్స్ట్ స్టెప్ ఏంటి కామెంట్
సెక్షన్ లో కామెంట్ చేయండి. హైపోతసిస్
తర్వాత మనకి నెక్స్ట్ స్టెప్ వచ్చేసి లాస్
ఫంక్షన్ అండ్ వన్స్ లాస్ క్ాలిక్యులేట్
చేశక ఆ తర్వాత స్టెప్ వచ్చేసి ఆప్టిమైజర్
ఈ మూడు స్టెప్స్ అన్ని కేసెస్ లో డిస్కస్
చేసుకున్నాము ఇక్కడ హైపోతసిస్ ఇది లాస్
ఫంక్షన్ బేసికల్లీ మనం ఏ కైండ్ ఆఫ్
ప్రాబ్లమ్ సాల్వ్ చేస్తామో ఆ కైండ్ ఆఫ్
ప్రాబ్లం బట్టి మారిపోతా ఉండిద్ది అన్నమాట
సో ఇక్కడ మనం బోత్ రిగ్రేషన్ కైండ్ ఆఫ్
ప్రాబ్లమ్స్ సాల్వ్ చేయొచ్చు అండ్ ఆల్సో
క్లాసిఫికేషన్ కైండ్ ఆఫ్ ప్రాబ్లమ్స్ కూడా
సాల్వ్ చేయొచ్చు అన్నమాట ఒకవేళ రిగ్రేషన్
ప్రాబ్లమ్స్ సాల్వ్ చేస్తున్నామ అనుకోండి
అప్పుడు మనం ఏ లాస్ ఫంక్షన్ యూస్ చేస్తాము
ఇప్పటికీ చాలా సార్లు డిస్కస్ చేసుకున్నాం
సింపుల్ గా మీన్ స్క్వేర్ ఎర్రర్ అయితే
యూస్ చేయొచ్చు అన్నమాట అంటే క్లాసిఫికేషన్
ప్రాబ్లం్ సాల్వ్ చేస్తే బేస్డ్ ఆన్ బైనరీ
ఆర్ మల్టీ క్లాస్ క్లాసిఫికేషన్ మనం ఐదర్
బైనరీ క్రాస్ ఎంట్రోపీ గాని లేదా
క్ేటగోరికల్ క్రాస్ ఎంట్రోపీ గాని యూస్
చేయొచ్చు అన్నమాట. ఇవి ప్రాబ్లం కి
తగినట్టు మార్చుకోవాలి మనం. ఇది కూడా మనం
చాలాసార్లు డిస్కస్ చేసుకున్నాము. అండ్
ఫైనల్లీ ఆప్టిమైజర్ ఆప్టిమైజర్ లో మనం ఇన్
జనరల్ డీప్ న్యూరల్ నెట్వర్క్స్ లో
అడ్వాన్స్డ్ ఆప్టిమైజర్స్ యూస్ చేస్తాము
లైక్ ఆర్ఎంఎస్ ప్రాప్ యడం అడడెల్టా ఇలాంటి
ఆప్టిమైజర్స్ అన్నీ యూస్ చేస్తామ అన్నమాట
సింపుల్ గ్రేడియంట్ డిసెంట్ ఆర్
స్టోకాస్టిక్ రేడియంట్ డిసెంట్ ఆర్ మినీ
బ్యాచ్ గ్రేడియంట్ డిసెంట్ అనేవి అంత బాగా
వర్క్ అవ్వవు. వీటికి డీటెయిల్స్ కూడా మనం
ప్రీవియస్ వీడియోస్ లో చూసాము. సో నా
వీడియోస్ గనుక ఫాలో అయ్యేటట్టయితే మీకు ఈ
పాయింట్ నేను చెప్తుంది క్లియర్ గా
అర్థమైపోయిద్ది. ఇన్ జనరల్ ఈ ప్రాసెస్ ఎలా
జరుగుతది ఫస్ట్ హైపోతసిస్ అనేది రాండమ్ గా
ఇనిషియలైజ్ అవుతది. అంటే ఈ హైపోతసిస్ లో
ఉన్న పారామీటర్స్ రాండమ్ గా ఇనిషియలైజ్
అవుతాయి. ఈ పర్టికులర్ కేస్ లో wనా w1
అండ్ ఇంకా w2 అనేవి రాండమ్ గా ఇనిషియలైజ్
అవుతాయి. ఇనిషిలైజ్ అయ్యాక మనం ఫార్వర్డ్
ప్రాపగేషన్ త్రూ టైం చేస్తాం. సో
బేసికల్లీ టైం వైస్ ఇన్పుట్స్ పాస్ చేసి
అవుట్పుట్స్ తెచ్చుకుంటా ఉంటాం అన్నమాట సో
వన్స్ ఇలాగ మనకి ఇన్పుట్స్ పాస్ చేసి
అవుట్పుట్స్ తెచ్చుకున్నాక మనం మోడల్ ఎలా
పర్ఫామ్ చేస్తుంది అనేది మనం ఎలా అబ్సర్వ్
చేస్తాం అంటే లాస్ ఫంక్షన్ ద్వారా
అబ్సర్వ్ చేస్తాం. రిగ్రెషన్ ప్రాబ్లం
అయితే మీన్ స్క్వేర్ ఎర్రర్ తో అబ్సర్వ్
చేస్తాం వేర్ యస్ క్లాసిఫికేషన్ ప్రాబ్లం
అయితే ఐదర్ బైనరీ క్రాస్ ఎంట్రోపీ కానీ
క్యాటిగోరికల్ క్రాస్ ఎంట్రోపీ తో కానీ
అబ్సర్వ్ చేస్తాం అన్నమాట వన్స్ లాస్
ఎక్కువ తక్కువ అన్నదాన్ని బట్టి మోడల్
దానితో అదే అప్డేట్ చేసుకుం అన్నమాట
ఆప్టిమైజర్ ద్వారా ఈ ఆప్టిమైజర్ ద్వారా
అప్డేట్ చేసుకునే ప్రాసెస్ నే మనం సింపుల్
గా బ్యాక్ ప్రాపగేషన్ అంటాం. వేర్ యస్ ఈ
పర్టికులర్ కేస్ లో ఆర్ఎన్ఎన్ కేస్ లో మనం
బ్యాక్ ప్రాపగేషన్ త్రూ టైం అంటామ అన్నమాట
ఈ పాయింట్ అనేది మీకు క్లియర్ గా
అర్థమయిందని అనుకుంటున్నాను ఇప్పుడు నేను
లెట్స్ సే ఈవ4 నుంచి వచ్చే అవుట్పుట్ తో
లాస్ క్ాలిక్యులేట్ చేశను అనుకుందాం
అంటేవ4
తాలుక యాక్చువల్ అవుట్పుట్ అండ్ ఇంకావై4
తాలూకా ప్రెడిక్టెడ్ అవుట్పుట్ రెండు
తీసుకొని లాస్ క్ాలిక్యులేట్ చేశ వన్స్ ఈ
లాస్ క్ాలిక్యులేట్ చేశక ఇన్ జనరల్
ఆప్టిమైజర్ ద్వారా పప్రేషన్ త్రూ టైం
చేయాలి సో బ్యాక్ ప్రోగ్రేషన్ త్రూ టైం
చేసినప్పుడు బేసికల్లీ ఈ పార్షియల్
డెరివేటివ్ అయితే క్ాలిక్యులేట్
చేయాలన్నమాట పార్షియల్ డెరివేటివ్ ఆఫ్
లాస్ విత్ రెస్పెక్ట్ టు టుడబ్ల్య
నాట్ జర సో బేసికల్లీ ఈ జీరో అనేది ఏమ
ఉండదు జస్ట్ మీకు అర్థం కావడానికి టైం
స్టాంప్ ని ఇక్కడ రాస్తున్నాను అన్నమాట
ఆర్వన్ అనుకుందాం టైం స్టాంప్ వన్ ఈ
పర్టికులర్ పార్షియల్ డెరివేటివ్ ఎలా
క్ాలిక్యులేట్ అవుతది ఫస్ట్ పార్షియల్
డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు
టు ద ఈలా లాస్ విత్ రెస్పెక్ట్ టు టు
ఇమ్మీడియట్ నెక్స్ట్ ఇమ్మీడియట్ ఏముంది
మనకి O3 ఉంది. దీనికి ముందు మనకి O3 ఉంది
కాబట్టి ఫస్ట్ మనం ఇక్కడ ఏం రాసుకుంటాం
అంటే O3 అని రాసుకుంటాం. నెక్స్ట్
బేసికల్లీ ఈ పార్షియల్ డెరివేటివ్ అనేది
మల్టిపుల్ పార్షియల్ డెరివేటివ్స్ గా
స్ప్లిట్ అవుతది. దాన్నే మీకు
చూపిస్తున్నాను అన్నమాట. అండ్ ఈ
స్ప్లిటింగ్ అంతా మీకు బ్యాక్ ప్రాపగేషన్
వీడియోలో చూస్తే అర్థమవుతది. సో బేసికల్లీ
ఈ ఇక్కడ మల్టిపుల్ కాన్సెప్ట్స్ మర్జ్
అవుతున్నాయి. సో కొంతమందికి అర్థం
కాకపోవచ్చు. నా ప్రీవియస్ వీడియోస్ చూడండి
లైక్ పాపగేషన్ అండ్ ఇంకా వానిషింగ్ ద
ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ఇవన్నీ
చూస్తే మీకు ఈ పాయింట్స్ అనేవి క్లియర్ గా
అర్థమైపోతాయి. ఈ పర్టికులర్ పార్షియల్
డెరివేటివ్ అనేది ఇలాగ ఈ లాస్ విత్
రెస్పెక్ట్ టు టు O3 ఫస్ట్ వస్తది ఆ
తర్వాత నెక్స్ట్ వచ్చేసి పార్షియల్
డెరివేటివ్ ఆఫ్ O3 విత్ రెస్పెక్ట్ టు టు
O2 పారలల్ గా ఈ డయాగ్రామ్ కూడా చూస్తా
ఉండండి. ఈ పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్
విత్ రెస్పెక్ట్ టు టు w = పార్షియల్
డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు
O3 తర్వాత వచ్చేసి పార్షియల్ డెరివేటివ్
ఆఫ్ O3 విత్ రెస్పెక్ట్ టు ట అంటే ఈ O3
అనేది O2 మీద డిపెండెంట్ అయి ఉండిద్ది
కాబట్టి ఈ పార్షియల్ డెరివేటివ్ యూస్
చేస్తాము తర్వాత పార్షియల్ డెరివేటివ్ ఆఫ్
O2 విత్ రెస్పెక్ట్ టు టు O1 ఎందుకంటే O2
అనేది O1 మీద డిపెండెంట్ కాబట్టి అండ్
నెక్స్ట్ ఈ O1 ఈక్వేషన్ లో డైరెక్ట్ గా
మనకి Wనా1 ఉండిద్ది అందుకే ఇప్పుడు
డైరెక్ట్ గా పార్షియల్ డెరివేటివ్ ఆఫ్ o1
విత్ రెస్పెక్ట్ టు టు పార్షియల్
డెరివేటివ్ ఆఫ్డవ
అని రాసేసుకోవచ్చు అన్నమాట మనం ఈ
పర్టికులర్ పార్షియల్ డెరివేటివ్
క్ాలిక్యులేట్ చేయడానికి ఇలాగ మల్టిపుల్
పార్షియల్ డెరివేటివ్స్ ఆల్రెడీ
క్ాలిక్యులేట్ చేసి ఉంటే వాటన్నిటిని మనం
మల్టిప్లై చేసేవస్తాం అన్నమాట ఇది మీ
సింపుల్ ఈక్వేషన్
నేను ఈ ఈక్వేషన్ యూస్ చేసుకొని మీ
బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం
జరుగుతాదిఅన్నమాట ఇన్ కేస్ ఆఫ్ఆర్ఎన్
ఓకే ఈ పర్టికులర్ ఈక్వేషన్ చూస్తే ఇక్కడ
ఏమవుతుంది బేసిక్ గా మీరు టైం వైస్
వెనక్కి వెళ్తున్నారు అంటే ఇక్కడ టైం
స్టాంప్ ఎంతఫోర్ ఇక్కడ టైం స్టాంప్ ఎంతత్ర
ఇక్కడ టైం స్టాంప్ ఎంతట ఇక్కడ టైం స్టాంప్
ఎంతవన్ ఇలా టైం వైస్ వెళ్ళడం వల్ల మీకు ఈ
నెంబర్ ఆఫ్ మల్టిప్లికేషన్స్ అనేవి
పెరిగిపోతున్నాయి. మీకు anన్n ఆర్సిఎన్ లో
ఏంటంటే నెంబర్ ఆఫ్ లేయర్స్ పెరుగుతున్నాయి
అనుకోండి మీకు గుర్తుంటే లైక్ లెట్స్ సే
టూ ఇన్పుట్స్ ఉన్నాయి అనుకుందాము అండ్
ఇదొక హిడెన్ లేయర్ అండ్ ఇంకా ఇదొక హిడెన్
లేయర్ అండ్ ఇదొక హిడెన్ లేయర్ అలాగా
నెంబర్ ఆఫ్ హిడెన్ లేయర్స్ పెరిగిపోతే
మీకు ఈ మల్టిప్లికేషన్స్ అనేవి
పెరిగిపోతాయి అన్నమాట ఈ anన్n స్ట్రక్చర్
తీసుకున్నామ అనుకోండి బేసికల్లీ ఈఏన్
స్ట్రక్చర్ లో మనం ఈ ఫస్ట్ లేయర్ లో ఉండే
వెయిట్ అప్డేట్ చేయాలనుకుంటే మనకి
ఆల్మోస్ట్ n మల్టిప్లికేషన్స్ జరుగుతాయి
ఆర్ nప్వ మల్టిప్లికేషన్స్ జరుగుతాయి.
ఎందుకంటే మనం ఈ వెయిట్ ని అప్డేట్
చేయడానికి మనకి మల్టిపుల్ డిపెండెన్సస్
ఇన్ బిట్వీన్ ఉన్నాయి. లైక్ ఈవ అనేది
ఇక్కడ వచ్చే ఇంటర్మీడియట్ అవుట్పుట్ మీద
డిపెండ్ అయిద్ది. అండ్ ఈ అవుట్పుట్ అనేది
మనకి ప్రీవియస్ గా వచ్చిన ఈ న్యూరాన్స్
మీద డిపెండ్ అయిద్ది. ఈ న్యూరాన్స్ నుంచి
వచ్చిన అవుట్పుట్స్ మీద లేదా ఈ న్యూరాన్
నుంచి వచ్చే అవుట్పుట్ మీద లేదా ఈ
న్యూరాన్ నుంచి వచ్చే అవుట్పుట్ మీద అండ్
ఈ అవుట్పుట్స్ అనేవి ముందు న్యూరాన్స్
నుంచి డిపెండ్ అయిద్ది. అలా డిపెండెన్సీ
బ్యాక్వర్డ్ గా ఉండటం వల్ల మనం ఈ
పర్టికులర్ వెయిట్ ని అప్డేట్ చేయడానికి
మనకి మల్టిపుల్ పార్షియల్ డెరివేటివ్స్
యూస్ అవుతాయి అన్నమాట. అండ్ సిమిలర్లీ
ఇక్కడ ఏం డిపెండెన్సీ ఉంది లేయర్ వైస్
డిపెండెన్సీ ఉంది వేర్ యస్ ఆర్ఎన్ వచ్చేసి
మనకి టైం వైస్ డిపెండెన్సీ కూడా ఉంది. సో
ఇలా టైం వైస్ డిపెండెన్సీ ఉండడం వల్ల మనం
టైం వైస్ వెనక్కి వెళ్తున్న సరే మనకి
పార్షియల్ డెరివేటివ్ లో ఉండే
మల్టిప్లికేషన్స్ అనేవి ఎక్కువ అయిపోతా
ఉండేవి అన్నమాట. ఇక్కడ నేను మీకు ఫోర్
టైమ్స్ స్టామ్స్ మాత్రమే చూపించాను
కాబట్టి మీకుఫోర్ మల్టిప్లికేషన్స్
ఉన్నాయి. అదేఫైవ్ టైమ్స్ స్టెమ్స్ వచ్చాయి
అనుకోండి ఇప్పుడుఫైవ్ మల్టిప్లికేషన్స్
అవుతాయి అది 10 టైమ్స్ స్టెమ్స్ వస్తే 10
మల్టిప్లికేషన్స్ అవుతాయి ఇలా అవ్వటం వల్ల
మీకు ప్రాబ్లం ఏమైద్ది అంటే మీకు
గుర్తుంటే వానిషింగ్ ఆర్ ఎక్స్ప్లోడింగ్
రేడియన్స్ ప్రాబ్లం అంటే ఏంటి ఈ పార్షియల్
డెరివేటివ్ తలకు వాల్యూ అనేది గ్రేటర్
దన్వ అయిపోయింది అనుకోండి ప్రతి పార్షియల్
డెరివేటివ్ తాలకు వాల్యూ అప్పుడు ఏమవుద్ది
ఓవరాల్ గా ఈ పర్టికులర్ పార్షియల్
డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్
టుడనా అనేది చాలా పెద్ద వాల్యూ
అయిపోయిద్ది వెరీ హై వాల్యూ అయిపోయిది.
అండ్ ఎప్పుడైతే వెరీ హై వాల్యూ అయిపోతదో
దట్ లీడ్స్ టు ఎక్స్ప్లోడింగ్
గ్రేడియంట్స్ ప్రాబ్లం అన్నమాట. అండ్
సిమిలర్లీ ఎప్పుడైతే ఈ వాల్యూస్ అనేవి
లెస్ దన్వన్ అనుకోకండి లెస్ దన్వ అండ్
ఇంకా స్లైట్లీ గ్రేటర్ దన్ జో ఉంటాయి.
ఇలాగ అన్నీ లెస్ దన్వ అయినప్పుడు మీకు
ఓవరాల్ గా ఏమవుతాది ఈ పర్టికులర్ లాస్
విత్ రెస్పెక్ట్ టు టుడనా అనే వాల్యూ
అనేది వెరీ స్మాల్ అయిపోయిద్ది ఆర్ వెరీ
వెరీ స్మాల్ అయిపోయిద్ది. ఇలా వెరీ వెరీ
స్మాల్ అయిపోవడం వల్ల మనక వచ్చే ప్రాబ్లం
ఏంటి వానిషింగ్ రేడియంట్ ప్రాబ్లం ఈ టూ
ప్రాబ్లమ్స్ అనేవి మనకి ఆర్ఎన్ఎన్స్ లో
చాలా ఫ్రీక్వెంట్ గా కనిపిస్తూ
ఉంటాయన్నమాట ఎందుకంటే మీరు చాలాసార్లు
మల్టిపుల్ టైం స్టాంప్స్ లో ఇన్పుట్
ఇచ్చేవి పంపిస్తా ఉంటారు. లైక్ 10 టైమ్
స్టాంప్స్ 20 టైమ్ స్టాంప్స్ అలాగా
మల్టిపుల్ టైం స్టాంప్స్ పంపించే అవకాశం
ఉంటాది అండ్ ఇలాగ మల్టిపుల్ టైం స్టాంప్స్
పంపించడం వల్ల మీకు ఇక్కడ ఒక ప్రాబ్లం
అక్కర్ అవుతుంది ఆ ప్రాబ్లం ఏంటంటే టైం
స్టాంప్ ఇంక్రీస్ అయ్యే కొద్దీ మీకు ఆ
వర్డ్ ని మర్చిపోయే ఛాన్స్ ఉంటది అన్నమాట
అంటే ఈ అవుట్పుట్ జనరేట్ చేయడానికి ఓకే ఈ
y4 జనరేట్ చేయడానికి మీకు x1 మీద
డిపెండెన్సీ ఉన్నా సరే టైం స్టాంప్
ఇంక్రీస్ అయిపో పోతున్న కొద్ది ఈ x1 తాలకు
ఇన్ఫర్మేషన్ అనేది మీకు స్లోగా డిమినిష్
అయిపోతా ఉండిద్ది అన్నమాట లేదా స్లోగా
తగ్గిపోతా ఉండుద్ది. x1 తాలక ఇన్ఫర్మేషన్
ఈ y2 జనరేట్ చేయడానికి మేబి ఎక్కువ
ఉండొచ్చు. ఎక్కువ వెయిటేజ్ మీకు
కనిపించొచ్చు. కానీ y4 కి యాక్చువల్లీ
మీకు రియల్ వరల్డ్ అప్లికేషన్
తీసుకున్నారు అనుకోండి రియల్ వరల్డ్
అప్లికేషన్ లో ఈ x1 కి y4 కి డిపెండెన్సీ
ఎక్కువ ఉండొచ్చు. కానీ ఆర్ఎన్ కి
వచ్చేసరికి ఆ ప్రాబ్లం ఏమవుతుందంటే ఈ x1
తాలుక ఇన్ఫర్మేషన్ అనేది అంత ముందుకి
తీసుకెళ్ళలేకపోతుంది అన్నమాటఫోర్ టైం
స్టాంప్స్ కి ముందుకి తీసుకెళ్ళలేదు
ఎందుకు తీసుకెళ్లేదు ఎందుకంటే ఈ వానిషింగ్
ఇంకా ఎక్స్ప్లోడింగ్ క్రేడియనన్స్
ప్రాబ్లం వల్ల సో ఈ పాయింట్ అనేది మీకు
క్లియర్ గా అర్థమయింది అనుకుంటున్నాను
అందుకే మనకి ఆర్నన్స్ అనేవి లాంగర్
డిపెండెన్సీస్ ఉండేటప్పుడు వర్క్
అవ్వదున్నమాట లాంగర్ డిపెండెన్సీస్ అంటే
లైక్ కరెంట్ అవుట్పుట్ సో కరెంట్
అవుట్పుట్ అనేది ప్రెసెంట్ టైం స్టాంప్ లో
వచ్చే అవుట్పుట్ అనేది మనకి ఒక ఫైవ్ టైం
స్టాంప్స్ ముందు ఇన్పుట్ మీద ఎక్కువ
డిపెండ్ అవుతుంది అనుకోండిఫైవ్ టైం
స్టాంప్స్ ప్రీవియస్ ఇన్పుట్ ఇలా కరెంట్
అవుట్పుట్ అంటే కరెంట్ టైం స్టాంప్ అంటే
లైక్ లెట్స్ సేట అనుకుందాం సోటి టైం
స్టాంప్ లో వచ్చే అవుట్పుట్ అనేదిఫై టైం
స్టాంప్ ప్రీవియస్ ఇన్పుట్ అంటే
లైక్ t -5 టైమ్స్ స్టాంప్స్ లో వచ్చిన
ఇన్పుట్ మీద డిపెండ్ అయి ఉందనుకోండి
ఎక్కువగా ఆ డిపెండెన్సీ అనేది ఆర్ఎన్ ని
చూపియలేదుఅన్నమాట ఎందుకంటే వానిషింగ్ ఇంకా
ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ప్రాబ్లం
వల్ల ఆ రీజన్ వల్ల మీకు లార్జర్
డిపెండెన్సీస్ ఆర్ లాంగర్ డిపెండెన్సీస్
అనేవి పర్సిస్ చేయలేదుఆర్ఎన్ ఇది మేజర్
ప్రాబ్లమ్ ఆఫ్ఆర్ఎన్ అందుకే మనం ఈ
ప్రాబ్లమ్ సాల్వ్ చేయడానికి బెటర్
అల్గారిథమ్స్ వాడతాం అన్నమాట లైక్ ఎల్ఎస్ట
ఎస్టఎం మీకు ఈ ఆర్ఎన్ కాన్సెప్ట్ అనేది
క్లియర్ గా అర్థమయింది అనుకుంటున్నాను.
ఒకవేళ ఏమైనా డౌట్స్ ఉంటే కామెంట్ సెక్షన్
లో కామెంట్ చేయండి. దట్స్ ఇట్ ఫర్ దిస్
వీడియో థాంక్యూ ఎవరీ వన్ బై బాయ్.
Full transcript without timestamps
హలో ఎవరీవన్ ముందు వీడియోలో నేను ఆల్రెడీ క్లియర్ గా ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం అండ్ ఇంకా బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం అనే కాన్సెప్ట్స్ క్లియర్ గా ఎక్స్ప్లెయిన్ చేశాను. ఒకవేళ చూడకపోతే ఆ పర్టికులర్ వీడియోనఅయితే చూసేయండి అన్నమాట. ఈ వీడియోలో మనం ఈఆర్ఎన్ లో ఉండే ప్రాబ్లమ్స్ గురించి డిస్కస్ చేద్దాము. బేసికల్లీ మీకు టైం వైస్ ఇన్పుట్స్ వచ్చి అవుట్పుట్స్ ఎలా వస్తాయో చూపించడానికి నేను ఈ స్ట్రక్చర్ ని అయితే వాడుతున్నాను కానీ మీ సింపుల్ ఆర్ఎన్ఏ అయితే ఇలానే ఉండిద్ది అన్నమాట ఓకే ఈ స్ట్రక్చర్ కే మనం టైం వైస్ ఇన్పుట్స్ పంపిస్తాము అండ్ ఇంకా మనకి టైం వైస్ అవుట్పుట్స్ వస్తాయి అన్నమాట. సో ఈ పాయింట్ మీకు క్లియర్ గా అర్థమయింది అని అనుకుంటున్నాను. ఇప్పుడు ఈ పర్టికులర్ వీడియోలోకి అయితే వెళ్ళిపోదాం. ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటే ఏంటి జస్ట్ మనం టైం వైస్ ఇన్పుట్స్ పాస్ చేసి అవుట్పుట్ తెచ్చుకోవడాన్నే సింపుల్ గా ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటాం. వేర్ యస్ బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటే మనకి ann ఇంకాసిnన్ లో మనం వెయిట్స్ ఎలా అయితే అప్డేట్ చేస్తామో దాన్నే మనం బ్యాక్వర్డ్ ప్రాపగేషన్ అంటాం. ఐదర్ anన్n ఆర్ cn లో వర్ స్ ఓవర్ హియర్ ఇక్కడ కూడా సేమ్ కాన్సెప్ట్ే కాకపోతే ఇక్కడ టైం వైస్ వెయిట్స్ అప్డేట్ చేస్తాం లైక్ ఇవన్నీ వెయిట్స్ మనకి ఈక్వివలెంట్ే లైక్ఈడబల్య నాట్ అండ్ ఇంకాఈడబల్నాట్ అనేవి ఈక్వివలెంట్ అయినా సరే వీటిని మల్టిపుల్ టైమ్స్ అప్డేట్ చేస్తాం ఎందుకంటే ఇవి టైం వైస్ అప్డేట్ అవుతాయి కాబట్టి అందుకే మనం ఇవి మల్టిపుల్ టైమ్స్ అప్డేట్ చేస్తాం అన్నమాట అండ్ ఇంకా ఈ కాన్సెప్ట్ ని బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం అంటాం. ఈ పాయింట్ మీకు అర్థమైంది అనుకుంటున్నాను. ఫర్ ఎగ్జాంపుల్ మనం ఈ టైం స్టాంప్ అంటే ఫస్ట్ టైం స్టాంప్ లో ఉన్నడబ్ల్య నా ని అప్డేట్ చేయాలనుకుంటున్నాం. ఇలా బ్రాకెట్ లో జీరో పెట్టానంటే టైం స్టాంప్ జీరో అని అర్థం. అండ్ బ్రాకెట్ లో వన్ పెడితే టైం స్టాంప్ వన్ అలా అర్థం చేసుకోండి. లెట్స్ సే టైం స్టాంప్ మనం వన్ తో స్టార్ట్ చేస్తున్నామ అనుకోండి. సో అప్పుడు wబనా టైం స్టాంప్ 1 అండ్ ఇంకా ఇది wబనా టైం స్టాంప్ 2 w టైం స్టాంప్ 3 అండ్ w టైం స్టాంప్ ఫోర్ అనుకుందాం ఒక పర్టికులర్ డెరివేటివ్ తీసుకుందాము డెరివేటివ్ తీసుకొని దాన్ని ఎక్స్పాండ్ చేస్తాను అప్పుడు మీకు క్లియర్ గా అర్థమైపోయిద్ది ఇవి ఎలా అప్డేట్ అవుతాయి ఏంటి అనేది అండ్ దీనికన్నా ముందు ఒక ప్రీ రిక్వసెట్ వీడియో ఏంటంటే వానిషింగ్ ఇంకా ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ప్రాబ్లం తాలకు వీడియో చూడండి ఒకవేళ అది చూడకపో పోతే నేను దాని లింక్ అనేది డిస్క్రిప్షన్ లో లేదా కామెంట్ సెక్షన్ లో పెడతాను. సో ఫస్ట్ ఆ వీడియో చూసేసి ఆ తర్వాత అయితే ఈ పర్టికులర్ వీడియోలోకి రండి. అప్పుడు ఇది ఇంకా బాగా అర్థంవుతది. మీకు ఆల్రెడీ తెలుసు రికరెంట్ న్యూరల్ నెట్వర్క్ లో మీకు హైపోతసిస్ ఏంటి హైపోతసిస్ అంటే ఈ మొత్తాన్ని మనం హైపోతసిస్ అంటామ అన్నమాట. బేసికల్లీ మనం న్యూరల్ నెట్వర్క్స్ లో హైపోతసిస్ ని హోల్ నెట్వర్క్ స్ట్రక్చర్ గా చూస్తాం. సో అందుకే రికరల్ న్యూరల్ నెట్వర్క్ లో సింపుల్ గా ఈ మొత్తాన్ని మనం మన హైపోతసిస్ అనుకోవచ్చు లేదా ఈ మొత్తాన్ని కూడా మన హైపోతసిస్ అనుకోవచ్చు అన్నమాట. బోత్ ఆర్ ఈక్వివలెంట్ సో ఇది మన హైపోతసిస్ వన్స్ హైపోతసిస్ అయిపోయిన తర్వాత నెక్స్ట్ స్టెప్ ఏంటి కామెంట్ సెక్షన్ లో కామెంట్ చేయండి. హైపోతసిస్ తర్వాత మనకి నెక్స్ట్ స్టెప్ వచ్చేసి లాస్ ఫంక్షన్ అండ్ వన్స్ లాస్ క్ాలిక్యులేట్ చేశక ఆ తర్వాత స్టెప్ వచ్చేసి ఆప్టిమైజర్ ఈ మూడు స్టెప్స్ అన్ని కేసెస్ లో డిస్కస్ చేసుకున్నాము ఇక్కడ హైపోతసిస్ ఇది లాస్ ఫంక్షన్ బేసికల్లీ మనం ఏ కైండ్ ఆఫ్ ప్రాబ్లమ్ సాల్వ్ చేస్తామో ఆ కైండ్ ఆఫ్ ప్రాబ్లం బట్టి మారిపోతా ఉండిద్ది అన్నమాట సో ఇక్కడ మనం బోత్ రిగ్రేషన్ కైండ్ ఆఫ్ ప్రాబ్లమ్స్ సాల్వ్ చేయొచ్చు అండ్ ఆల్సో క్లాసిఫికేషన్ కైండ్ ఆఫ్ ప్రాబ్లమ్స్ కూడా సాల్వ్ చేయొచ్చు అన్నమాట ఒకవేళ రిగ్రేషన్ ప్రాబ్లమ్స్ సాల్వ్ చేస్తున్నామ అనుకోండి అప్పుడు మనం ఏ లాస్ ఫంక్షన్ యూస్ చేస్తాము ఇప్పటికీ చాలా సార్లు డిస్కస్ చేసుకున్నాం సింపుల్ గా మీన్ స్క్వేర్ ఎర్రర్ అయితే యూస్ చేయొచ్చు అన్నమాట అంటే క్లాసిఫికేషన్ ప్రాబ్లం్ సాల్వ్ చేస్తే బేస్డ్ ఆన్ బైనరీ ఆర్ మల్టీ క్లాస్ క్లాసిఫికేషన్ మనం ఐదర్ బైనరీ క్రాస్ ఎంట్రోపీ గాని లేదా క్ేటగోరికల్ క్రాస్ ఎంట్రోపీ గాని యూస్ చేయొచ్చు అన్నమాట. ఇవి ప్రాబ్లం కి తగినట్టు మార్చుకోవాలి మనం. ఇది కూడా మనం చాలాసార్లు డిస్కస్ చేసుకున్నాము. అండ్ ఫైనల్లీ ఆప్టిమైజర్ ఆప్టిమైజర్ లో మనం ఇన్ జనరల్ డీప్ న్యూరల్ నెట్వర్క్స్ లో అడ్వాన్స్డ్ ఆప్టిమైజర్స్ యూస్ చేస్తాము లైక్ ఆర్ఎంఎస్ ప్రాప్ యడం అడడెల్టా ఇలాంటి ఆప్టిమైజర్స్ అన్నీ యూస్ చేస్తామ అన్నమాట సింపుల్ గ్రేడియంట్ డిసెంట్ ఆర్ స్టోకాస్టిక్ రేడియంట్ డిసెంట్ ఆర్ మినీ బ్యాచ్ గ్రేడియంట్ డిసెంట్ అనేవి అంత బాగా వర్క్ అవ్వవు. వీటికి డీటెయిల్స్ కూడా మనం ప్రీవియస్ వీడియోస్ లో చూసాము. సో నా వీడియోస్ గనుక ఫాలో అయ్యేటట్టయితే మీకు ఈ పాయింట్ నేను చెప్తుంది క్లియర్ గా అర్థమైపోయిద్ది. ఇన్ జనరల్ ఈ ప్రాసెస్ ఎలా జరుగుతది ఫస్ట్ హైపోతసిస్ అనేది రాండమ్ గా ఇనిషియలైజ్ అవుతది. అంటే ఈ హైపోతసిస్ లో ఉన్న పారామీటర్స్ రాండమ్ గా ఇనిషియలైజ్ అవుతాయి. ఈ పర్టికులర్ కేస్ లో wనా w1 అండ్ ఇంకా w2 అనేవి రాండమ్ గా ఇనిషియలైజ్ అవుతాయి. ఇనిషిలైజ్ అయ్యాక మనం ఫార్వర్డ్ ప్రాపగేషన్ త్రూ టైం చేస్తాం. సో బేసికల్లీ టైం వైస్ ఇన్పుట్స్ పాస్ చేసి అవుట్పుట్స్ తెచ్చుకుంటా ఉంటాం అన్నమాట సో వన్స్ ఇలాగ మనకి ఇన్పుట్స్ పాస్ చేసి అవుట్పుట్స్ తెచ్చుకున్నాక మనం మోడల్ ఎలా పర్ఫామ్ చేస్తుంది అనేది మనం ఎలా అబ్సర్వ్ చేస్తాం అంటే లాస్ ఫంక్షన్ ద్వారా అబ్సర్వ్ చేస్తాం. రిగ్రెషన్ ప్రాబ్లం అయితే మీన్ స్క్వేర్ ఎర్రర్ తో అబ్సర్వ్ చేస్తాం వేర్ యస్ క్లాసిఫికేషన్ ప్రాబ్లం అయితే ఐదర్ బైనరీ క్రాస్ ఎంట్రోపీ కానీ క్యాటిగోరికల్ క్రాస్ ఎంట్రోపీ తో కానీ అబ్సర్వ్ చేస్తాం అన్నమాట వన్స్ లాస్ ఎక్కువ తక్కువ అన్నదాన్ని బట్టి మోడల్ దానితో అదే అప్డేట్ చేసుకుం అన్నమాట ఆప్టిమైజర్ ద్వారా ఈ ఆప్టిమైజర్ ద్వారా అప్డేట్ చేసుకునే ప్రాసెస్ నే మనం సింపుల్ గా బ్యాక్ ప్రాపగేషన్ అంటాం. వేర్ యస్ ఈ పర్టికులర్ కేస్ లో ఆర్ఎన్ఎన్ కేస్ లో మనం బ్యాక్ ప్రాపగేషన్ త్రూ టైం అంటామ అన్నమాట ఈ పాయింట్ అనేది మీకు క్లియర్ గా అర్థమయిందని అనుకుంటున్నాను ఇప్పుడు నేను లెట్స్ సే ఈవ4 నుంచి వచ్చే అవుట్పుట్ తో లాస్ క్ాలిక్యులేట్ చేశను అనుకుందాం అంటేవ4 తాలుక యాక్చువల్ అవుట్పుట్ అండ్ ఇంకావై4 తాలూకా ప్రెడిక్టెడ్ అవుట్పుట్ రెండు తీసుకొని లాస్ క్ాలిక్యులేట్ చేశ వన్స్ ఈ లాస్ క్ాలిక్యులేట్ చేశక ఇన్ జనరల్ ఆప్టిమైజర్ ద్వారా పప్రేషన్ త్రూ టైం చేయాలి సో బ్యాక్ ప్రోగ్రేషన్ త్రూ టైం చేసినప్పుడు బేసికల్లీ ఈ పార్షియల్ డెరివేటివ్ అయితే క్ాలిక్యులేట్ చేయాలన్నమాట పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు టుడబ్ల్య నాట్ జర సో బేసికల్లీ ఈ జీరో అనేది ఏమ ఉండదు జస్ట్ మీకు అర్థం కావడానికి టైం స్టాంప్ ని ఇక్కడ రాస్తున్నాను అన్నమాట ఆర్వన్ అనుకుందాం టైం స్టాంప్ వన్ ఈ పర్టికులర్ పార్షియల్ డెరివేటివ్ ఎలా క్ాలిక్యులేట్ అవుతది ఫస్ట్ పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు టు ద ఈలా లాస్ విత్ రెస్పెక్ట్ టు టు ఇమ్మీడియట్ నెక్స్ట్ ఇమ్మీడియట్ ఏముంది మనకి O3 ఉంది. దీనికి ముందు మనకి O3 ఉంది కాబట్టి ఫస్ట్ మనం ఇక్కడ ఏం రాసుకుంటాం అంటే O3 అని రాసుకుంటాం. నెక్స్ట్ బేసికల్లీ ఈ పార్షియల్ డెరివేటివ్ అనేది మల్టిపుల్ పార్షియల్ డెరివేటివ్స్ గా స్ప్లిట్ అవుతది. దాన్నే మీకు చూపిస్తున్నాను అన్నమాట. అండ్ ఈ స్ప్లిటింగ్ అంతా మీకు బ్యాక్ ప్రాపగేషన్ వీడియోలో చూస్తే అర్థమవుతది. సో బేసికల్లీ ఈ ఇక్కడ మల్టిపుల్ కాన్సెప్ట్స్ మర్జ్ అవుతున్నాయి. సో కొంతమందికి అర్థం కాకపోవచ్చు. నా ప్రీవియస్ వీడియోస్ చూడండి లైక్ పాపగేషన్ అండ్ ఇంకా వానిషింగ్ ద ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ఇవన్నీ చూస్తే మీకు ఈ పాయింట్స్ అనేవి క్లియర్ గా అర్థమైపోతాయి. ఈ పర్టికులర్ పార్షియల్ డెరివేటివ్ అనేది ఇలాగ ఈ లాస్ విత్ రెస్పెక్ట్ టు టు O3 ఫస్ట్ వస్తది ఆ తర్వాత నెక్స్ట్ వచ్చేసి పార్షియల్ డెరివేటివ్ ఆఫ్ O3 విత్ రెస్పెక్ట్ టు టు O2 పారలల్ గా ఈ డయాగ్రామ్ కూడా చూస్తా ఉండండి. ఈ పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు టు w = పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టు O3 తర్వాత వచ్చేసి పార్షియల్ డెరివేటివ్ ఆఫ్ O3 విత్ రెస్పెక్ట్ టు ట అంటే ఈ O3 అనేది O2 మీద డిపెండెంట్ అయి ఉండిద్ది కాబట్టి ఈ పార్షియల్ డెరివేటివ్ యూస్ చేస్తాము తర్వాత పార్షియల్ డెరివేటివ్ ఆఫ్ O2 విత్ రెస్పెక్ట్ టు టు O1 ఎందుకంటే O2 అనేది O1 మీద డిపెండెంట్ కాబట్టి అండ్ నెక్స్ట్ ఈ O1 ఈక్వేషన్ లో డైరెక్ట్ గా మనకి Wనా1 ఉండిద్ది అందుకే ఇప్పుడు డైరెక్ట్ గా పార్షియల్ డెరివేటివ్ ఆఫ్ o1 విత్ రెస్పెక్ట్ టు టు పార్షియల్ డెరివేటివ్ ఆఫ్డవ అని రాసేసుకోవచ్చు అన్నమాట మనం ఈ పర్టికులర్ పార్షియల్ డెరివేటివ్ క్ాలిక్యులేట్ చేయడానికి ఇలాగ మల్టిపుల్ పార్షియల్ డెరివేటివ్స్ ఆల్రెడీ క్ాలిక్యులేట్ చేసి ఉంటే వాటన్నిటిని మనం మల్టిప్లై చేసేవస్తాం అన్నమాట ఇది మీ సింపుల్ ఈక్వేషన్ నేను ఈ ఈక్వేషన్ యూస్ చేసుకొని మీ బ్యాక్వర్డ్ ప్రాపగేషన్ త్రూ టైం జరుగుతాదిఅన్నమాట ఇన్ కేస్ ఆఫ్ఆర్ఎన్ ఓకే ఈ పర్టికులర్ ఈక్వేషన్ చూస్తే ఇక్కడ ఏమవుతుంది బేసిక్ గా మీరు టైం వైస్ వెనక్కి వెళ్తున్నారు అంటే ఇక్కడ టైం స్టాంప్ ఎంతఫోర్ ఇక్కడ టైం స్టాంప్ ఎంతత్ర ఇక్కడ టైం స్టాంప్ ఎంతట ఇక్కడ టైం స్టాంప్ ఎంతవన్ ఇలా టైం వైస్ వెళ్ళడం వల్ల మీకు ఈ నెంబర్ ఆఫ్ మల్టిప్లికేషన్స్ అనేవి పెరిగిపోతున్నాయి. మీకు anన్n ఆర్సిఎన్ లో ఏంటంటే నెంబర్ ఆఫ్ లేయర్స్ పెరుగుతున్నాయి అనుకోండి మీకు గుర్తుంటే లైక్ లెట్స్ సే టూ ఇన్పుట్స్ ఉన్నాయి అనుకుందాము అండ్ ఇదొక హిడెన్ లేయర్ అండ్ ఇంకా ఇదొక హిడెన్ లేయర్ అండ్ ఇదొక హిడెన్ లేయర్ అలాగా నెంబర్ ఆఫ్ హిడెన్ లేయర్స్ పెరిగిపోతే మీకు ఈ మల్టిప్లికేషన్స్ అనేవి పెరిగిపోతాయి అన్నమాట ఈ anన్n స్ట్రక్చర్ తీసుకున్నామ అనుకోండి బేసికల్లీ ఈఏన్ స్ట్రక్చర్ లో మనం ఈ ఫస్ట్ లేయర్ లో ఉండే వెయిట్ అప్డేట్ చేయాలనుకుంటే మనకి ఆల్మోస్ట్ n మల్టిప్లికేషన్స్ జరుగుతాయి ఆర్ nప్వ మల్టిప్లికేషన్స్ జరుగుతాయి. ఎందుకంటే మనం ఈ వెయిట్ ని అప్డేట్ చేయడానికి మనకి మల్టిపుల్ డిపెండెన్సస్ ఇన్ బిట్వీన్ ఉన్నాయి. లైక్ ఈవ అనేది ఇక్కడ వచ్చే ఇంటర్మీడియట్ అవుట్పుట్ మీద డిపెండ్ అయిద్ది. అండ్ ఈ అవుట్పుట్ అనేది మనకి ప్రీవియస్ గా వచ్చిన ఈ న్యూరాన్స్ మీద డిపెండ్ అయిద్ది. ఈ న్యూరాన్స్ నుంచి వచ్చిన అవుట్పుట్స్ మీద లేదా ఈ న్యూరాన్ నుంచి వచ్చే అవుట్పుట్ మీద లేదా ఈ న్యూరాన్ నుంచి వచ్చే అవుట్పుట్ మీద అండ్ ఈ అవుట్పుట్స్ అనేవి ముందు న్యూరాన్స్ నుంచి డిపెండ్ అయిద్ది. అలా డిపెండెన్సీ బ్యాక్వర్డ్ గా ఉండటం వల్ల మనం ఈ పర్టికులర్ వెయిట్ ని అప్డేట్ చేయడానికి మనకి మల్టిపుల్ పార్షియల్ డెరివేటివ్స్ యూస్ అవుతాయి అన్నమాట. అండ్ సిమిలర్లీ ఇక్కడ ఏం డిపెండెన్సీ ఉంది లేయర్ వైస్ డిపెండెన్సీ ఉంది వేర్ యస్ ఆర్ఎన్ వచ్చేసి మనకి టైం వైస్ డిపెండెన్సీ కూడా ఉంది. సో ఇలా టైం వైస్ డిపెండెన్సీ ఉండడం వల్ల మనం టైం వైస్ వెనక్కి వెళ్తున్న సరే మనకి పార్షియల్ డెరివేటివ్ లో ఉండే మల్టిప్లికేషన్స్ అనేవి ఎక్కువ అయిపోతా ఉండేవి అన్నమాట. ఇక్కడ నేను మీకు ఫోర్ టైమ్స్ స్టామ్స్ మాత్రమే చూపించాను కాబట్టి మీకుఫోర్ మల్టిప్లికేషన్స్ ఉన్నాయి. అదేఫైవ్ టైమ్స్ స్టెమ్స్ వచ్చాయి అనుకోండి ఇప్పుడుఫైవ్ మల్టిప్లికేషన్స్ అవుతాయి అది 10 టైమ్స్ స్టెమ్స్ వస్తే 10 మల్టిప్లికేషన్స్ అవుతాయి ఇలా అవ్వటం వల్ల మీకు ప్రాబ్లం ఏమైద్ది అంటే మీకు గుర్తుంటే వానిషింగ్ ఆర్ ఎక్స్ప్లోడింగ్ రేడియన్స్ ప్రాబ్లం అంటే ఏంటి ఈ పార్షియల్ డెరివేటివ్ తలకు వాల్యూ అనేది గ్రేటర్ దన్వ అయిపోయింది అనుకోండి ప్రతి పార్షియల్ డెరివేటివ్ తాలకు వాల్యూ అప్పుడు ఏమవుద్ది ఓవరాల్ గా ఈ పర్టికులర్ పార్షియల్ డెరివేటివ్ ఆఫ్ లాస్ విత్ రెస్పెక్ట్ టుడనా అనేది చాలా పెద్ద వాల్యూ అయిపోయిద్ది వెరీ హై వాల్యూ అయిపోయిది. అండ్ ఎప్పుడైతే వెరీ హై వాల్యూ అయిపోతదో దట్ లీడ్స్ టు ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ప్రాబ్లం అన్నమాట. అండ్ సిమిలర్లీ ఎప్పుడైతే ఈ వాల్యూస్ అనేవి లెస్ దన్వన్ అనుకోకండి లెస్ దన్వ అండ్ ఇంకా స్లైట్లీ గ్రేటర్ దన్ జో ఉంటాయి. ఇలాగ అన్నీ లెస్ దన్వ అయినప్పుడు మీకు ఓవరాల్ గా ఏమవుతాది ఈ పర్టికులర్ లాస్ విత్ రెస్పెక్ట్ టు టుడనా అనే వాల్యూ అనేది వెరీ స్మాల్ అయిపోయిద్ది ఆర్ వెరీ వెరీ స్మాల్ అయిపోయిద్ది. ఇలా వెరీ వెరీ స్మాల్ అయిపోవడం వల్ల మనక వచ్చే ప్రాబ్లం ఏంటి వానిషింగ్ రేడియంట్ ప్రాబ్లం ఈ టూ ప్రాబ్లమ్స్ అనేవి మనకి ఆర్ఎన్ఎన్స్ లో చాలా ఫ్రీక్వెంట్ గా కనిపిస్తూ ఉంటాయన్నమాట ఎందుకంటే మీరు చాలాసార్లు మల్టిపుల్ టైం స్టాంప్స్ లో ఇన్పుట్ ఇచ్చేవి పంపిస్తా ఉంటారు. లైక్ 10 టైమ్ స్టాంప్స్ 20 టైమ్ స్టాంప్స్ అలాగా మల్టిపుల్ టైం స్టాంప్స్ పంపించే అవకాశం ఉంటాది అండ్ ఇలాగ మల్టిపుల్ టైం స్టాంప్స్ పంపించడం వల్ల మీకు ఇక్కడ ఒక ప్రాబ్లం అక్కర్ అవుతుంది ఆ ప్రాబ్లం ఏంటంటే టైం స్టాంప్ ఇంక్రీస్ అయ్యే కొద్దీ మీకు ఆ వర్డ్ ని మర్చిపోయే ఛాన్స్ ఉంటది అన్నమాట అంటే ఈ అవుట్పుట్ జనరేట్ చేయడానికి ఓకే ఈ y4 జనరేట్ చేయడానికి మీకు x1 మీద డిపెండెన్సీ ఉన్నా సరే టైం స్టాంప్ ఇంక్రీస్ అయిపో పోతున్న కొద్ది ఈ x1 తాలకు ఇన్ఫర్మేషన్ అనేది మీకు స్లోగా డిమినిష్ అయిపోతా ఉండిద్ది అన్నమాట లేదా స్లోగా తగ్గిపోతా ఉండుద్ది. x1 తాలక ఇన్ఫర్మేషన్ ఈ y2 జనరేట్ చేయడానికి మేబి ఎక్కువ ఉండొచ్చు. ఎక్కువ వెయిటేజ్ మీకు కనిపించొచ్చు. కానీ y4 కి యాక్చువల్లీ మీకు రియల్ వరల్డ్ అప్లికేషన్ తీసుకున్నారు అనుకోండి రియల్ వరల్డ్ అప్లికేషన్ లో ఈ x1 కి y4 కి డిపెండెన్సీ ఎక్కువ ఉండొచ్చు. కానీ ఆర్ఎన్ కి వచ్చేసరికి ఆ ప్రాబ్లం ఏమవుతుందంటే ఈ x1 తాలుక ఇన్ఫర్మేషన్ అనేది అంత ముందుకి తీసుకెళ్ళలేకపోతుంది అన్నమాటఫోర్ టైం స్టాంప్స్ కి ముందుకి తీసుకెళ్ళలేదు ఎందుకు తీసుకెళ్లేదు ఎందుకంటే ఈ వానిషింగ్ ఇంకా ఎక్స్ప్లోడింగ్ క్రేడియనన్స్ ప్రాబ్లం వల్ల సో ఈ పాయింట్ అనేది మీకు క్లియర్ గా అర్థమయింది అనుకుంటున్నాను అందుకే మనకి ఆర్నన్స్ అనేవి లాంగర్ డిపెండెన్సీస్ ఉండేటప్పుడు వర్క్ అవ్వదున్నమాట లాంగర్ డిపెండెన్సీస్ అంటే లైక్ కరెంట్ అవుట్పుట్ సో కరెంట్ అవుట్పుట్ అనేది ప్రెసెంట్ టైం స్టాంప్ లో వచ్చే అవుట్పుట్ అనేది మనకి ఒక ఫైవ్ టైం స్టాంప్స్ ముందు ఇన్పుట్ మీద ఎక్కువ డిపెండ్ అవుతుంది అనుకోండిఫైవ్ టైం స్టాంప్స్ ప్రీవియస్ ఇన్పుట్ ఇలా కరెంట్ అవుట్పుట్ అంటే కరెంట్ టైం స్టాంప్ అంటే లైక్ లెట్స్ సేట అనుకుందాం సోటి టైం స్టాంప్ లో వచ్చే అవుట్పుట్ అనేదిఫై టైం స్టాంప్ ప్రీవియస్ ఇన్పుట్ అంటే లైక్ t -5 టైమ్స్ స్టాంప్స్ లో వచ్చిన ఇన్పుట్ మీద డిపెండ్ అయి ఉందనుకోండి ఎక్కువగా ఆ డిపెండెన్సీ అనేది ఆర్ఎన్ ని చూపియలేదుఅన్నమాట ఎందుకంటే వానిషింగ్ ఇంకా ఎక్స్ప్లోడింగ్ గ్రేడియంట్స్ ప్రాబ్లం వల్ల ఆ రీజన్ వల్ల మీకు లార్జర్ డిపెండెన్సీస్ ఆర్ లాంగర్ డిపెండెన్సీస్ అనేవి పర్సిస్ చేయలేదుఆర్ఎన్ ఇది మేజర్ ప్రాబ్లమ్ ఆఫ్ఆర్ఎన్ అందుకే మనం ఈ ప్రాబ్లమ్ సాల్వ్ చేయడానికి బెటర్ అల్గారిథమ్స్ వాడతాం అన్నమాట లైక్ ఎల్ఎస్ట ఎస్టఎం మీకు ఈ ఆర్ఎన్ కాన్సెప్ట్ అనేది క్లియర్ గా అర్థమయింది అనుకుంటున్నాను. ఒకవేళ ఏమైనా డౌట్స్ ఉంటే కామెంట్ సెక్షన్ లో కామెంట్ చేయండి. దట్స్ ఇట్ ఫర్ దిస్ వీడియో థాంక్యూ ఎవరీ వన్ బై బాయ్.
Download Subtitles
These subtitles were extracted using the Free YouTube Subtitle Downloader by LunaNotes.
Download more subtitlesRelated Videos
LPG ക്ഷാമം & സാമ്പത്തിക മാന്ദ്യം - Subtitles ഡൗൺലോഡ് ചെയ്യൂ
ഈ വീഡിയോയുടെ സബ്ടൈറ്റിൽസ് ഡൗൺലോഡ് ചെയ്ത് LPG ക്ഷാമവും വരാനിരിക്കുന്ന സാമ്പത്തിക പ്രതിസന്ധിയും മനസ്സിലാക്കുക. ഉപയോക്താക്കൾക്കായി വിശദമായ വിവരണം, എളുപ്പത്തിൽ വിവരണം പിടിച്ചെടുക്കാനുള്ള മികച്ച മാർഗം.
Download Subtitles for Stanford Neuroscientist Dream Analysis Video
Access accurate subtitles for this compelling video where a Stanford neuroscientist explores why you might not remember your dreams and what your brain is signaling. Enhance understanding and improve accessibility by downloading captions now.
C Language Tutorial Subtitles for Beginners with Practice
डाउनलोड करें C Language Tutorial के लिए सबटाइटल्स और कैप्शन्स, जिससे यह वीडियो और भी समझने में आसान हो जाता है। नोट्स और प्रैक्टिस प्रश्नों के साथ यह सीखने का आपका अनुभव बेहतर बनाएं।
Varalakshmi Venkateshwarulu Full Movie Subtitles Download
डाउनलोड करें वरलक्ष्मी वेंकटेश्वरुलु फिल्म के सबटाइटल्स और पूरी कहानी को समझें। यह सबटाइटल्स वीडियो देखने के अनुभव को बेहतर बनाते हैं और भाषा बाधाओं को दूर करते हैं।
Download Subtitles for OS Process Management & Multiprogramming Video
Easily download subtitles for the OS Process Management lecture by Ravindrababu Ravula to enhance your learning experience. Captions help you follow complex topics like Process States and Multiprogramming with clarity and better comprehension.
Most Viewed
Descarga Subtítulos para NARCISISMO | 6 DE COPAS - Episodio 63
Accede fácilmente a los subtítulos del episodio 63 de '6 DE COPAS', centrado en el narcisismo. Descargar estos subtítulos te ayudará a entender mejor el contenido y mejorar la experiencia de visualización.
Subtítulos para TIPOS DE APEGO | 6 DE COPAS Episodio 56
Descarga los subtítulos para el episodio 56 de la tercera temporada de 6 DE COPAS, centrado en los tipos de apego. Mejora tu comprensión y disfruta del contenido en detalle con nuestros subtítulos precisos y accesibles.
Untertitel für 'Nicos Weg' Deutsch lernen A1 Film herunterladen
Laden Sie die Untertitel für den gesamten Film 'Nicos Weg' herunter, um Ihr Deutschlernen auf A1 Niveau zu unterstützen. Untertitel helfen Ihnen, Wortschatz und Aussprache besser zu verstehen und verbessern das Hörverständnis effektiv.
Download Subtitles for Your Favorite Videos Easily
Enhance your video watching experience by downloading accurate subtitles and captions. Enjoy better understanding, accessibility, and language support for all your favorite videos.
Download Subtitles for 'Asbestos is a Bigger Problem Than We Thought' Video
Access accurate and easy-to-read subtitles for the video 'Asbestos is a Bigger Problem Than We Thought' to enhance your understanding of this critical environmental and health issue. Download captions to follow along better, improve accessibility, and share information effectively.
If you found these subtitles useful, consider buying us a coffee. It would help us a lot!