К ом пас
1 ТАБЛИЦА
Название
Формула
Область знач ний
линейная
Д е ) - к в
(— оо, со]
полулинейная
а д -
кв,
в > 0
0,
в < 0
(0, со)
сигмоидальная
і
а д = —
-—
1
+
е“ а8
(0,1)
ш е н и я р а з н ы х з а д а ч м о г у т и с п о л ь з о в а т ь с я р а з л и ч н ы е а к т и -
в а ц и о н н ы е ф у н к ц и и , и в з а в и с и м о с т и о т в и д а в ы б р а н н о й а к -
т и в а ц и о н н о й ф у н к ц и и б у д е т м е н я т ь с я э ф ф е к т и в н о с т ь р е ш е -
н и я з а д а ч .
О д н о й и з н а и б о л е е р а с п р о с т р а н е н н ы х я в л я е т с я
логисти-
ческая ф у н к ц и я и л и сигмоид ( ф у н к ц и я Б - о б р а з н о г о в и д а ) :
а д
і
1 + е "а§
(
3
)
П р и
и з м е н е н и и
п а р а м е т р а
а с и г м о и д м о ж е т и з м е н я т ь
с в о и с в о й с т в а , с т а н о в я с ь б о л е е п о л о г и м и п р и а = 0 в ы р о -
ж д а я с ь в г о р и з о н т а л ь н у ю л и н и ю н а у р о в н е 0 . 5 . Т а к и е с в о й -
с т в а с и г м о и д а д е л а ю т е г о н а и б о л е е и с п о л ь з у е м о й ф у н к ц и -
е й п р и м о д е л и р о в а н и и
И Н С .
И з в ы р а ж е н и я д л я с и г м о и д а
о ч е в и д н о , ч т о в ы х о д н о е з н а ч е н и е н е й р о н а л е ж и т в д и а п а -
з о н е ( 0 ,
1 ) .
И
Р и с . 2 С и г м о и д
К р о м е т о г о , с и г м о и д о б л а д а е т с в о й с т в а м у с и л и в а т ь с л а -
б ы е с и г н а л ы л у ч ш е , ч е м б о л ь ш и е , и п р е д о т в р а щ
а е т н а с ы щ е -
н и е о т б о л ь ш и х с и г н а л о в , т а к к а к о н и с о о т в е т с т в у ю т о б л а с -
т я м а р г у м е н т о в , г д е с и г м о и д и м е е т п о л о г и й н а к л о н .
Н у в о т , к а ж е т с я , с н е й р о н о м , е г о с т р у к т у р о й и ф у н к ц и я -
м и м ы р а з о б р а л и с ь , т е п е р ь п е р е й д е м н е п о с р е д с т в е н н о к с е -
т я м и с к у с с т в е н н ы х н е й р о н о в .
Н е й р о н н а я с е т ь п р е д с т а в л я е т с о б о й с о в о к у п н о с т ь н е й р о -
п о д о б н ы х э л е м е н т о в , о п р е д е л е н н ы м о б р а з о м с о е д и н е н н ы х
д р у г с д р у г о м и с в н е ш н е й с р е д о й с п о м о щ ь ю с в я з е й , о п р е -
д е л я е м ы х в е с о в ы м и к о э ф ф и ц и е н т а м и . В з а в и с и м о с т и о т ф у н к -
ц и й , в ы п о л н я е м ы х н е й р о н а м и в с е т и , м о ж н о в ы д е л и т ь т р и и х
т и п а :
•У входные нейроны, н а к о т о р ы е п о д а е т с я в е к т о р , к о д и -
р у ю щ
и й
в х о д н о е в о з д е й с т в и е ,
о б р а з
в н е ш н е й
с р е д ы
и л и ,
п р о щ
е г о в о р я , д а н н ы е , к о т о р ы е н е о б х о д и м о о б р а б о т а т ь ; в
н и х о б ы ч н о н е о с у щ е с т в л я е т с я в ы ч и с л и т е л ь н ы х п р о ц е д у р , а
и н ф о р м а ц и я п е р е д а е т с я с о в х о д а н а в ы х о д п о с л е п о д с т а н о в -
к и в в ы р а ж е н и е
( 2 ) ;
выходные нейроны, в ы х о д н ы е з н а ч е н и я к о т о р ы х п р е д -
с т а в л я ю т в ы х о д ы н е й р о н н о й с е т и ; п р е о б р а з о в а н и я в н и х о с у -
щ е с т в л я ю т с я п о в ы р а ж е н и я м
( 1 )
и
( 2 ) ;
^ промежуточные нейроны, с о с т а в л я ю щ и е о с н о в у н е й -
р о н н ы х с е т е й , п р е о б р а з о в а н и я в к о т о р ы х в ы п о л н я ю т с я т а к -
ж е п о в ы р а ж е н и я м
( 1 )
и
( 2 ) .
В б о л ь ш и н с т в е н е й р о н н ы х м о д е л е й т и п н е й р о н а с в я з а н с
е г о р а с п о л о ж е н и е м в с е т и . Е с л и н е й р о н и м е е т т о л ь к о в ы х о д -
н ы е с в я з и , т о э т о в х о д н о й н е й р о н , е с л и н а о б о р о т — в ы х о д -
н о й н е й р о н . О д н а к о в о з м о ж е н с л у ч а й , к о г д а в ы х о д в н у т р е н -
н е г о н е й р о н а р а с с м а т р и в а е т с я к а к ч а с т ь в ы х о д а с е т и ( в п о л -
н о с в я з н ы х с е т я х , н а п р и м е р ) .
В п р о ц е с с е ф у н к ц и о н и р о в а н и я с е т и о с у щ е с т в л я е т с я п р е -
о б р а з о в а н и е в х о д н о г о в е к т о р а в в ы х о д н о й , ч т о я в л я е т с я п е -
р е р а б о т к о й и н ф о р м а ц и и . К о н к р е т н ы й в и д в ы п о л н я е м о г о с е -
т ь ю п р е о б р а з о в а н и я д а н н ы х о б у с л о в л и в а е т с я н е т о л ь к о х а -
р а к т е р и с т и к а м и н е й р о п о д о б н ы х э л е м е н т о в , н о и о с о б е н н о -
с т я м и с т р о е н и я м е ж н е й р о н н ы х с в я з е й , в ы б о р о м о п р е д е л е н -
н ы х п о д м н о ж е с т в н е й р о п о д о б н ы х э л е м е н т о в д л я в в о д а и в ы -
в о д а и н ф о р м а ц и и , с п о с о б а м и о б у ч е н и я с е т и , н а п р а в л е н и е м
р а с п р о с т р а н е н и я с и г н а л о в и с п о с о б а м и у п р а в л е н и я и с и н -
х р о н и з а ц и и п е р е д а ч и и н ф о р м а ц и и м е ж д у н е й р о н а м и .
С т о ч к и з р е н и я с т р о е н и я И Н С м о ж н о в ы д е л и т ь т р и о с н о в -
н ы х т и п а т а к и х с е т е й :
полносвязные ( р и с . 3 — а );
И
многослойные и л и слоистые ( р и с . 3 — 6 ) ;
^ слабосвязные (с л о к а л ь н ы м и с в я з я м и ) ( р и с . 3 — в ).
П р е ж д е ч е м п е р е й т и к р а с с м о т р е н и ю т о п о л о г и ч е с к и х о с о -
б е н н о с т е й И Н С , х о ч у с к а з а т ь , ч т о с и с т е м а у п р а в л е н и я р а з -
р а б о т а н н о г о п о д р у к о в о д с т в о м а к а д е м и к а А м о с о в а т р а н с -
п о р т н о г о р о б о т а б ы л а п о с т р о е н а
н а о с н о в е И Н С с о с л а -
б о с в я з а н н о й т о п о л о г и е й ( р и с . 3 — в ) .
В п о л н о с в я з н ы х н е й р о н н ы х с е т я х к а ж д ы й н е й р о н п е р е д а -
е т в ы х о д н о й с и г н а л о с т а л ь н ы м н е й р о н а м , в т о м ч и с л е и с а -
м о м у с е б е . В с е в х о д н ы е с и г н а л ы п о д а ю т с я в с е м н е й р о н а м ^ .
В ы х о д н ы м и с и г н а л а м и с е т и м о г у т б ы т ь в с е и л и н е к о т о р ы е в ы -
х о д н ы е с и г н а л ы н е й р о н о в п о с л е н е с к о л ь к и х т а к т о в ф у н к ц и о -
н и р о в а н и я с е т и .
В м н о г о с л о й н ы х н е й р о н н ы х с е т я х н е й р о н ы о б ъ е д и н я ю т с я в
с л о и . С л о й с о д е р ж и т с о в о к у п н о с т ь н е й р о н о в с е д и н ы м и в х о д -
н ы м и с и г н а л а м и . Ч и с л о н е й р о н о в в с л о е м о ж е т б ы т ь л ю б ы м и
и н е з а в и с и т о т к о л и ч е с т в а н е й р о н о в в д р у г и х с л о я х .
В о б -
щ е м с л у ч а е с е т ь с о с т о и т и з К с л о е в , п р о н у м е р о в а н н ы х с л е -
в а н а п р а в о .
В н е ш н и е
в х о д н ы е с и г н а л ы
п о д а ю т с я
н а
в х о д ы
н е й р о н о в в х о д н о г о с л о я ( е г о ч а с т о н у м е р у ю т к а к н у л е в о й ) , а
в ы х о д а м и с е т и я в л я ю т с я в ы х о д н ы е н е й р о н ы п о с л е д н е г о с л о я .
К р о м е в х о д н о г о и в ы х о д н о г о с л о е в в н е й р о н н о й с е т и е с т ь
о д и н и л и н е с к о л ь к о с к р ы т ы х . С в я з и о т в ы х о д о в н е й р о н о в н е -
к о т о р о г о с л о я п к о в х о д а м ^ с л е д у ю щ е г о с л о я п + 1
н а з ы в а ю т -
с я п о с л е д о в а т е л ь н ы м и ( р и с . 4 ) .
Е щ е с у щ е с т в у ю т с е т и с о б р а т н ы м и с в я з я м и , к о т о р ы х т а к -
ж е е с т ь н е с к о л ь к о в и д о в .
В к а ч е с т в е п р и м е р а с е т е й с о б р а т н ы м и с в я з я м и н а р и с . 5
п р е д с т а в л е н ы ч а с т и ч н о - р е к у р р е н т н ы е с е т и Э л м ю н а .
В п р е д л о ж е н н о й н и ж е л и т е р а т у р е [ 1 , 2 , 3 , 6 ] о п и с а н ы т и -
п ы з а д а ч , р е ш е н и е к о т о р ы х в о з м о ж н о с п р и м е н е н и е м ^ с е т е й
о п р е д е л е н н о й С т р у к т у р ы .
Р а с с м о т р и м ^ в о п р о с о б у ч е н и я с е т е й , с о с т а в л е н н ы х и з т а -
к и х э л е м е н т о в .
О ч е в и д н о , ч т о п р о ц е с с ф у н к ц и о н и р о в а н и я н е й р о н н о й с е -
т и ( е е с в о й с т в а п о о б р а б о т к е и н ф о р м а ц и и ) з а в и с и т о т с и н а п -
предыдущая страница 37 Мой Компьютер 2005 07 читать онлайн следующая страница 39 Мой Компьютер 2005 07 читать онлайн Домой Выключить/включить текст