Компас
Нервные
сети
Г
Максим ПАВЛЕНКО
Вторая статья цикла (начало см. в МК, Ns 3 (33 0) за 2 0 0 5 год) посвящена теории создания
искусственных нейронных сетей. А вскоре, скажем по секрету, мы научим вас их строить.
Н
а в е р н о е , я б у д у н е д а л е к о т и с т и н ы , е с л и с к а ж у , ч т о ч и -
т а т е л и ж у р н а л а М
К т а к и л и и н а ч е с в я з а н ы с к о м п ь ю т е -
р а м и . Е с т е с т в е н н о , р а з г о в о р ы и х з а ч а с т у ю в е р т я т с я в о -
к р у г к о м п ь ю т е р о в , п р о г р а м м н о г о о б е с п е ч е н и я , к о м п и -
л я т о р о в , и н т е р п р е т а т о р о в .
. . И р а н о и л и п о з д н о в с е п р и х о -
д я т к м ы с л и : « А к а к с д е л а т ь м а ш и н у у м н е е ! Ч т о б ы а н а с а -
м а .
. . » А
ч т о и м е н н о « с а м а » , н е т а к у ж и в а ж н о . В а ж н а , ч т о -
б ы у м н о й б ы л а , р а с с у ж д а л а , д а и п о г о в о р и т ь .
. .
В е д ь н е з р я в г о л л и в у д с к и х ф а н т а с т и ч е с к и х ф и л ь м а х н о р -
м а л ь н ы е ©
г е н и и б о л ь ш е о б щ а ю т с я с к о м п ь ю т е р о м , ч е м с
ж и в ы м и и п р и я т н ы м и ж е н щ
и н а м и — п р и т о м н а е с т е с т в е н н о м
ч е л о в е ч е с к о м я з ы к е , д а е щ е и с ю м о р о м ! В о т и м ы р а с с у ж -
д а е м п о д о б н ы м о б р а з о м — и ч а щ е в с е г о в к а ч е с т в е с р е д с т -
в а и н т е л л е к т у а л и з а ц и и Э В М
в с п л ы в а е т в п а м я т и з н а к о м о е
в ы р а ж е н и е
«искусственные нейронны е сети». Ч т о э т о , к т о
э т о и к а к э т о — з а ч а с т у ю н и к т о н е з н а е т . А н а в о п р о с , к а к
о н о р а б о т а е т , и в о в с е р е д к о у с л ы ш и ш ь в н я т н ы й о т в е т . П р и
э т о м в с е в с ё и о а б о в с ё м з н а ю т , и у к а ж д о г о е с т ь с в о е м н е -
н и е , к о т о р о е ч е л о в е к о т с т а и в а е т д о х р и п о т ы .
Д а в а й т е н а к о н е ц - т о п е р е с т а н е м в е р и т ь с л у х а м и д о м ы с -
л а м , и с а м и в о в с е м р а з б е р е м с я . Н а б е р е м с я т е р п е н и я и к р а -
т е н ь к о п о з н а к о м и м с я с т е м , ч т о н а з ы в а е т с я т е о р и е й н е й р о н -
н ы х с е т е й , п о с л е ч е г о с о с т а в и м с в о е м н е н и е о б и х в о з м о ж -
н о с т я х и н а з н а ч е н и и . А г л а в н о е — т е п е р ь в с п о р а х в ы б у д е -
т е п о б е ж д а т ь а р г у м е н т и р о в а н н о , а в а ш к о м п ь ю т е р н е м и н у е -
м о с т а н е т с а м ы м у м н ы м © .
В п р о ш л о й с т а т ь е б ы л и р а с с м о т р е н ы о с н о в н ы е в о п р о с ы ,
с в я з а н н ы е с и с т о р и е й р а з в и т и я и с к у с с т в е н н ы х н е й р о н н ы х с е -
т е й ( И Н С ) и к р у г о м з а д а ч , р е ш а е м ы х с и х п о м о щ ь ю .
Ч т о с о б о й п р е д с т а в л я е т р е а л ь н ы й б и о л о г и ч е с к и й н е й р о н ,
м ы у ж е з н а е м . Т е п е р ь н е о б х о д и м о р а з о б р а т ь с я с т е м , к а к
ф о р м а л ь н о
з а д а е т с я
и
п р е д с т а в л я е т с я
и с к у с с т в е н н ы й
н е й -
р о н , н а о с н о в а н и и к о т о р о г о и с т р о и т с я И Н С . Д л я т е х , к о м у
б у д е т и н т е р е с н о с а м о с т о я т е л ь н о з а п р о г р а м м и р о в а т ь р а б о -
т у И Н С , х о ч у з а м е т и т ь : о т т о г о , н а с к о л ь к о у д а ч н о в ы с м о ж е -
т е п р е д с т а в и т ь э л е м е н т а р н ы й
н е й р о н , б у д е т з а в и с е т ь с к о -
р о с т ь р а б о т ы п р о г р а м м ы , и м и т и р у ю щ е й р а б о т у И Н С .
Д а в а й т е д л я н а ч а л а у д а л и м с я в у г о л о к м а н ь я к а , г д е п о -
с м о т р и м ,
к а к р а б о т а е т ( п е р е р а б а т ы в а е т и н ф о р м а ц и ю ) р е -
а л ь н ы й б и о л о г и ч е с к и й н е й р о н .
Уголок маньяка
В т е л о б и о л о г и ч е с к о г о н е й р о н а в х о д н ы е с и г н а л ы п о с т у -
п а ю т п о с и н а п с а м ( в х о д а м ) в в и д е э л е к т р и ч е с к и х и м п у л ь с о в ,
д а л е е т е л о н е й р о н а
и х н а к а п л и в а е т ,
и т о л ь к о п о с л е т о г о ,
к а к у р о в е н ь ( з н а ч е н и е ) э л е к т р и ч е с к о г о з а р я д а д о с т и г н е т о п -
р е д е л е н н о й в е л и ч и н ы ( з а в и с и т о т т и п а н е й р о н а ) , з а р я д п е -
р е д а е т с я в а к с о н ( в ы х о д ) н е й р о н а .
Выход нз этого темного уголка
Д а в а й т е п о с м о т р и м н а
ри сунок 1.
Э т о п р о с т а я м а т е м а т и ч е с к а я а б с т р а к ц и я б и о л о г и ч е с к о г о
н е й р о н а .
Х„
з н а ч е н и я , к о т о р ы е п о д а ю т с я н а в х о д н е й р о н а д л я
о б р а б о т к и .
Н е й р о н с о с т о и т и з э л е м е н т о в т р е х т и п о в : у м н о ж и т е л е й ®
( с и н а п с о в ) , с у м м а т о р а и н е л и н е й н о г о п р е о б р а з о в а т е л я .
Синапсы (в х о д ы н е й р о н а ) о с у щ е с т в л я ю т с в я з ь м е ж д у н е й -
р о н а м и , у м н о ж а ю т в х о д н о й с и г н а л н а ч и с л о , х а р а к т е р и з у ю -
щ е е с и л у с в я з и ( в е с с и н а п с а ) Ю „ . С п о м о щ ь ю и з м е н е н и я з н а -
ч е н и я
в о з м о ж н о р е г у л и р о в а т ь с и л у с в я з и , и з - з а ч е г о с и г -
Рис.1 С труктура искусственного нейрона
н а л , п р о х о д я щ и й п о э т о й с в я з и , б у д е т л и б о у с и л и в а т ь с я , л и -
б о о с л а б л я т ь с я . Р е г у л и р о в к а с и л ы с в я з и п р о и с х о д и т н а э т а -
п е о б у ч е н и я с е т и и в п р о ц е с с е р а б о т ы с е т и в б о л ь ш и н с т в е
с л у ч а е в н е и з м е н я е т с я .
Сумматор в ы п о л н я е т а р и ф м е т и ч е с к о е с л о ж е н и е в х о д я щ и х
в н е й р о н с и г н а л о в , к а к п о с т у п а ю щ и х о т н е й р о н о в , т а к и п о -
л у ч а е м ы х н е й р о н о м о т в н е ш н е й с р е д ы .
Нелинейный преобразователь р е а л и з у е т н е л и н е й н у ю ф у н к -
ц и ю о д н о г о
а р г у м е н т а — в ы х о д а с у м м а т о р а .
Э т а
ф у н к ц и я
н а з ы в а е т с я ф у н к ц и е й а к т и в а ц и и и л и п е р е д а т о ч н о й ф у н к ц и -
е й н е й р о н а . О
н а н е о б х о д и м а д л я т о г о , ч т о б ы п о к а з а т ь , н а -
с к о л ь к о « с и л ь н ы й з а р я д » п о л у ч и л н е й р о н , и к а к о й с и г н а л о н
п е р е д а с т д а л ь ш е . В э т о м и с о с т о и т о с н о в н о е о т л и ч и е и с к у с -
с т в е н н о г о и б и о л о г и ч е с к о г о н е й р о н о в .
Б и о л о г и ч е с к и й н е й -
р о н п е р е д а е т с и г н а л н а в ы х о д т о л ь к о к о г д а н а к а п л и в а е т д о с -
т а т о ч н о э н е р г и и , а и с к у с с т в е н н ы й в с е г д а в ы д а е т с и г н а л н а
в ы х о д , н о р а з н о г о у р о в н я .
С и н а п т и ч е с к и е с в я з и с п о л о ж и т е л ь н ы м и в е с а м и
н а з ы в а -
ю т в о з б у ж д а ю щ и м и , с о т р и ц а т е л ь н ы м и в е с а м и —
тормозя-
щими.
Т а к и м о б р а з о м , м а т е м а т и ч е с к и и с к у с с т в е н н ы й н е й р о н м о -
ж е т б ы т ь о п и с а н с л е д у ю щ и м и у р а в н е н и я м и :
й у р а в н е н и е д л я с у м м а т о р а , к о т о р о е у ч и т ы в а е т в н е ш н и е
в х о д н ы е с и г н а л ы д л я н е й р о н а ( н а п р и м е р , п р и к о с н о в е н и е к
г о р я ч е м у у т ю г у ) и з н а ч е н и я к о э ф ф и ц и е н т о в п е р е д а ч и с и н а п -
с о в :
Б = (х.хю, +х2хю2 + .
.. + зудаг)
(
1
)
й и т е п е р ь о к о н ч а т е л ь н о д л я в ы х о д н о г о с и г н а л а н е й р о -
н а н е о б х о д и м о п о л у ч е н н у ю с у м м у в в и д е а р г у м е н т а п о д с т а -
в и т ь в а к т и в а ц и о н н у ю ф у н к ц и ю н е й р о н а f ( о н е й н и ж е ) :
У
=
П
Б
)
( 2 )
Н е о б х о д и м о р а с с м о т р е т ь т а к ж е , ч т о т а к о е Ь н а р и с у н к е , и
з а ч е м о н о н у ж н о . Ь — э т о н е ч т о и н о е , к а к е д и н и ч н а я ф у н к ц и я ,
к о т о р а я п о д а е т с я н а в с е — п о д ч е р к и в а ю , в с е — н е й р о н ы , и л и ,
п о - д р у г о м у ,
функция смещения. З а ч е м , с п р о с и т е в ы ? О б ъ я с н е -
н и е п р о с т о е . О к а з ы в а е т с я , б и о л о г и ч е с к и е н е й р о н ы и м е ю т к а к
б ы о п о р н у ю ч а с т о т у , о т н о с и т е л ь н о к о т о р о й о н и о т с ч и т ы в а ю т и
п е р е д а ю т с в о и с и г н а л ы . В и с к у с с т в е н н ы х ж е н е й р о н а х р а б о т а
и д е т п о ч т и н а ч а с т о т е п р о ц е с с о р а ( е с л и б ы ! ! ! ) , а о п о р о й с л у ж и т
т а с а м а я м а л е н ь к а я е д и н и ч к а , о т н о с и т е л ь н о к о т о р о й н а с т р а и -
в а е т с я р а б о т а к а ж д о г о н е й р о н а и в с е й с е т и в ц е л о м .
Т е п е р ь в е р н е м с я к а к т и в а ц и о н н ы м ф у н к ц и я м н е й р о н о в . И х
с у щ е с т в у е т в е л и к о е м н о ж е с т в о .
П р и в е д у ч а с т ь и з
н и х ( с м .
таблицу) [ 1 , 2 — з д е с ь и д а л е е п р и в о д я т с я с с ы л к и н а с п и с о к
л и т е р а т у р ы в к о н ц е с т р о к и ] .
Т а к о е
р а з н о о б р а з и е а к т и в а ц и о н н ы х ф у н к ц и й
г о в о р и т о
т о м , ч т о н е с у щ е с т в у е т е д и н о г о п о д х о д а к и х в ы б о р у . Д л я р е -
№ 7/334 14 февраля-21 февраля 2005
предыдущая страница 36 Мой Компьютер 2005 07 читать онлайн следующая страница 38 Мой Компьютер 2005 07 читать онлайн Домой Выключить/включить текст