본문 바로가기

전체 글

헵의 시냅스 가소성 놀라운 것은 볼츠만 머신의 학습 알고리즘이 신경과학 분야에서 심리학자 도널드 헵(Donald Hebb)까지 거슬러 올라가는 꽤 긴 역사를 보유하고 있었다는 사실이다. 헵은 자신의 저서 《행동 방식의 구성(The Organization of Behavior)》에서 두 개 의 뉴런이 동시에 발화되면 그 사이의 시냅스는 보다 강해진다고 상정했다. 반사 행동(또는 '추적')의 지속성 또는 반복성이 세포의 안정성을 증가시키는 영속적 세포 변화를 유도하는 경향이 있다고 가정해보자. 세포 A의 축색돌기가 세포 B를 흥분시킬 수 있을 정도로 충분히 근접하고 반복적 또는 지속적으로 세포 B의 발화에 가담할 때 어느 한 세포 또는 두 세포 모두에서 모종의 성장 과정이나 신진대사의 변화가 발생하고 결과적으로 세포 B를 발화.. 더보기
오르겔의 두 번째 법칙 보편적 진리는 번번이 놀라운 발견에 의해 산산이 부서져왔다. 하늘을 올려다보면 지구의 주위를 돌고 있는 태양이 보인 다고 믿었지만 실제로는 지구가 태양의 주위를 돌고 있었다. 진화론은 여전히 그것을 수용하기 어려워하는 사람들이 많지 만 우리 인간의 위치를 상기시켜준다. 지금부터 많은 시간이 흐른 후 우리의 후손들이 지금의 이 시대를 돌아보면서, 지능 에 대한 우리의 직관은 기껏해야 과도한 단순화에 지나지 않았고 그로 인해 인공지능의 발전이 50년은 퇴보되었다고 말할 지도 모른다. 오르겔의 두 번째 법칙에서 명시된 바와 같이 진화는 인간보다 영리하다. '우리의 의식적인 자각은 빙산의 일각에 불과하다. 뇌가 하는 일의 대부분은 자기 분석으로 접근하기 어렵다. 우리는 '주의'와 '의도' 라는 단어를 사용해 행.. 더보기
딥러닝과 지능의 본질은 이미지? 딥러닝의 멀티모달화를 가능하게 할 수도 있는 흥미로운 최근 동향이 있어 소개할까 한다. '언어도 이미지로 취급해서 처리하는 방식'으로, 이에 호응하는 사람들이 요즘 적잖이 늘어나고 있는 모양이다. 그 원리를 간단히 설명하기가 어려운 편이라 어쩔 수 없이 설명은 생략하겠지만 놀랍게도 이 방식은 의외로 잘되고 있는 듯하다. 이 방식이 높이 평가받고 있는 데에는 이유가 있다. 앞에서 몇 차례 언급했다시피 딥러닝이 가장 잘하는 것이 이미지 처리이기 때문이다. 따라서 언어가 됐든 뭐가 됐든 어떻게든 이미지와 연결 지을 수 있으면 그 문제는 순식간에 딥러닝의 주특기가 되어 인간을 뛰어넘을 수 있는 것이 된다. 그리고 이미지는 상당히 많은 정보를 표현할 수 있다. 무엇이든 이미지화하는 순간 '가로 세로의 관계'로 표.. 더보기
딥러닝, 어디까지 와 있나? 현재 딥러닝의 활동 무대는 점점 넓어지고 있어서 나도 그 전체 양상을 파악하기는 어렵다. 뿐만 아니라 매일같이 새로운 기술이 등장하고 있다고 해도 과언이 아닌 상태다. 그러다 보니 딥러닝의 미래를 점치기는 힘들지만, 크게 보아 '언어'와 '음성' 그리고 이미지가 중요한 응용 분야가 되리라는 것은 틀림없 어 보인다. 이 세 가지 부분의 입력과 출력이 인간의 지능 발전에서 대단히 중요하기 때문이다. 아예 지능 자체를 '언어', '음성', '이미지를 자유롭게 다를 수 있는 상태나 능력이라고 할 수도 있다. 당연히 이 세 가지의 입력과 출력은 경제나 비즈니스적인 관점에서도 매우 중요하다. 그리고 이들을 딥러닝 이외의 방법론으로 해결하기 는, 적어도 지금으로서는 상당히 어렵다. 그럼 순서대로 한번 살펴보자. 먼저.. 더보기
인공지능의 시각적 이벤트의 인지 시점은 언제인가? 시각적 인지의 또 다른 측면은 순식간에 지나가버리는 섬광과 같은 이벤트를 발생 시점에 바로 인지를 하고자 하는 뇌의 동작에 대한 것이다. 불빛이 번쩍이는 시각적 자극에 대한 시각 피질 뉴런의 시간 지연은 25~100밀리초 사이로 가변적이 며 흔히 피질의 동일한 영역에서 발생한다. 그럼에도 불구하고 우리는 40밀리초의 간격으로 발생하는 두 개의 섬광을 순 차적으로 인식할 수 있고 10밀리초 이하의 간격으로 발생하는 소리 자극의 순서를 인지할 수 있다. 보다 역설적인 것은 망 막에서 신호를 처리하는 데 소요되는 시간은 일정한 것이 아니라 섬광의 밀도에 따라 다르기 때문에 어두운 섬광과 밝은 섬광이 동시에 발생하는 것처럼 보이더라도 어두운 섬광에 의해 발생하는 극파는 밝은 섬광으로 인한 극파보다 도착 시간 이.. 더보기
인지신경과학의 탄생 1988년 나는 맥도널앤드퓨(McDonnell and Pew) 재단의 한 위원회 소속으로 '인지신경과학' 이라는 새로운 분야를 출범시키 는 방법에 대한 조언을 구하기 위해 저명한 인지과학자와 신경과학자들을 인터뷰하러 다녔다. 당시 우리 위원회 관계자 들은 전 세계를 돌아다니며 전문가들에게 인지신경과학의 연구 주제는 무엇으로 삼는 게 유망하고 새로운 연구센터는 어 디에 두는 게 좋은지 등을 물었다. 8월의 어느 뜨거운 오후 우리는 하버드 교수 클럽에서 사고 언어의 전문가로서 모듈식 마인드 이론의 대변인으로 통하던 제리 포더(Jerry Foder)를 만났다. 그는 시작부터 도전적인 언사로 포문을 열었다. “인지 신경과학은 학문이 아니고 앞으로도 학문이 될 가능성은 없다고 봅니다.” 그는 비전과 기억에 관한 .. 더보기
의료 검진과 진단의 딥러닝 서비스 산업 및 전문직 역시 머신러닝이 발전하고 빅데이터를 이용할 수 있는 여러 문제에 적용됨에 따라 커다란 변혁을 겪게 될 전망이다. 의료 진단이 대표적인 예다. 환자 수백만 명의 기록을 활용할 수 있게 되면서 더욱 정확해질 것이다. 최근의 한 연구에서는 2,000가지 이상의 피부과 질환의 13만 건에 달하는 이미지에 딥러닝을 적용했다. 전에 사용하던 것보다 10배나 큰 의료 데이터베이스였다. 이 연구의 네트워크는 이전에 본 적이 없는 새로운 이미 지의 테스트 세트’로부터 각각의 질환을 진단하도록 훈련되었다. 새로운 이미지에 대한 그것의 진단 수행력은 21명의 피부과 전문의와 비슷하거나 몇몇 경우 에는 더 뛰어났다. 조만간 스마트폰 사용자라면 누구나 의심스러운 피부 병변을 촬영해 즉각적으로 진단이 나오.. 더보기
가짜뉴스 영상과 음성이 만들어지는 메커니즘은? 2017년에 라이어버드-Lyrebird라는 캐나다 회사에서 도널드 트럼프, 버락 오바마, 힐러리 클린턴이 자신들의 트윗을 읽는 음성 파일을 공개했다. 반전은 그들이 실제로 트윗을 읽은 게 아니라는 것이었다. 음성 파일은 가짜였다! 과거에는 진짜 같은 가짜 영상이나 음성을 만들려면 수작업으로 어마어마한 시간이 소요됐지만 이제는 기술의 발달로 그때와 비교도 안 될 만큼 속도가 빨라졌다. 요즘은 워낙 가짜뉴스가 판치다 보니 많은 사람이 온라인에서 접하는 뉴스를 신뢰하지 않고 실제로 영상을 보거나 음성을 들어야만 사실이라고 믿는다. 하지만 영상과 음성마저도 날조될 수 있다면 더는 믿을 수 있는 게 없어진다. 그런데 가짜 음성과 영상은 어떻게 만들어질까? 위에서 말한 대통령들의 음성 같은 '딥페이크deepfake.. 더보기