열정/개인 공부4 네트워크 구조 2024.02.20 - [열정/개인 공부] - 뉴런 모델 뉴런 모델 단일 입력 뉴런 (single-input neuron) 스칼라 입력 p가 스칼라 가중치 (weight) w와 곱해지고, 다른 스칼라 입력 1은 편향 (bias 또는 offset) b와 더해진다. 이 둘은 합산기 (summer)에 전달되어 합해진다. 합산 mydaydream.tistory.com 위의 포스팅을 통해 뉴런을 정의했다. 하지만 일반적으로 입력이 여러 개라도 하나의 뉴런으로는 충분치 않다. 계층 (layer)에서 병렬로 작동하는 뉴런이 5~10개 정도 필요할 수 있다. 뉴런 계층 S개 뉴런 단층 네트워크 (single-layer network)를 아래 그림에서 볼 수 있다. R개 입력은 각 뉴런에 연결되며, 가중치 행렬은 S개 .. 2024. 2. 20. 뉴런 모델 단일 입력 뉴런 (single-input neuron) 스칼라 입력 p가 스칼라 가중치 (weight) w와 곱해지고, 다른 스칼라 입력 1은 편향 (bias 또는 offset) b와 더해진다. 이 둘은 합산기 (summer)에 전달되어 합해진다. 합산기 출력 (또는 네트 입력 net input) n은 스칼라 뉴런 출력 a를 생성하는 전달 함수 (transfer function) 또는 활성화 함수 (activation function) f로 들어간다. 이때, w와 b는 모두 조정 가능한 (adjustable) 뉴런의 스칼라 파라미터이다. 일반적으로 전달 함수는 뉴런의 입력/출력 관계가 특정 목표를 충족하도록 설계자가 선택하며, 파라미터 w와 b는 학습 규칙에 의해 조정된다. 전달 함수 (transfer .. 2024. 2. 20. 인공 신경망의 생체 영감 인공 신경망은 생체 신경망과 간접적으로 연관되어 있다. 인공 신경망의 개발에 영감을 준 뇌 기능의 특징을 간략하게 알아보자. 뇌는 뉴런이라고 하는 요소들로 구성되어 있으며, 상당히 많은 수의 뉴런이 고도로 연결되어 있다. 뉴런은 세 가지 주요 구성요소인 수상돌기 dendrites, 세포체 cell body, 축삭 axon으로 이뤄져 있다. 수상돌기는 전기적 신호를 세포체로 운반하는 신경 섬유 수용 네트워크로 나뭇가지 모양을 하고 있다. 세포체는 들어오는 신호를 효과적으로 합산하고 임계치에 도달하면 발화한다. 축삭은 세포체에서 다른 뉴런으로 신호를 운반하는 기다란 섬유다. 뉴런의 축삭과 다른 뉴런의 수상돌기 사이의 접점을 시냅스 synapse라고 한다. 뉴런의 배열과 시냅스의 강도는 신경망의 기능을 결정하.. 2024. 2. 19. 인공 신경망의 역사 기술의 발전에는 '개념 (concept)'과 '구현 (implementation)'이 반드시 필요하다. 기술이 발전하려면 개념이 있어야 하고, 개념이 있더라도 시스템 구현 방법이 없다면 기술을 성숙시킬 수 없다. 신경망의 역사는 개념의 혁신과 구현의 발전을 통해 진행됐다. 하지만 이러한 진보는 꾸준히 진화한다기보다는 간헐적으로 일어난다. 19세기 후반에서 20세기 초반에 신경망 분야의 기반이 되는 연구가 일부 진행됐다. 주로 헤르만 폰 헬름홀츠 (Hermann von Helmholtz), 에른스트 마흐 (Ernst Mach), 이반 파블로프 (Ivan Pavlov) 같은 과학자에 의해 물리학, 심리학, 신경 생리학 분야의 학제 간 연구로 이루어졌다. 학습, 시각, 조건 반사 등의 일반적인 이론을 강조했고.. 2024. 2. 19. 이전 1 다음
