테리 세이노프스키는 진행 중인' 인공지능 혁명' 에 대해 이야기할 자격이 있는 사람이 있다면 그 중 하나일 것이다.
Shenovsky 는 스마트 번역, 무인 운전, 알파고, Microsoft Shaobing 이 먼 비전으로 간주되었을 때 이미 심화 학습 분야의 토대를 마련했습니다.
테리 세이노프스키 교수입니다.
사진: 솔크 연구소
Senovsky 는 1980 년대 인공지능 주류 구축 방법에 도전한 소수의 연구원 중 한 명이다. 그들은 뇌 생물학에서 영감을 받은' 신경망',' 연결주의' 및' 병렬 분산 처리' 라는 AI 구현 방법이 결국 논리 기반 AI 연구를 괴롭히는 문제를 해결하고 이를 통해 데이터로부터 기술을 배울 수 있는 수학 모델을 제시할 것이라고 생각한다. 바로 이 소수의 연구원들이 뇌기반 컴퓨팅에 기반한 새로운 방법이 가능하다는 것을 증명하여' 심도 있는 학습' 의 발전을 위한 토대를 마련했다.
심도 있는 학습: 지능시대의 핵심 원동력' 이라는 책이 출간될 즈음에 미국 과학기술매체 The Verge 는 테렌스 세노프스키 (Terrence Senovsky) 를 인터뷰하며 인공지능, 신경망, 심도 있는 학습, 기계학습의 차이점을 논의했다. 왜' 심도 있는 학습' 이 갑자기 어디에나 있게 되었는지, 그것이 무엇을 할 수 있을까? 당신은 무엇을 할 수 없습니까? 인터뷰 전문은 다음과 같습니다.
심화 학습: 지능 시대의 핵심 원동력
중신 출판그룹 20 19.2
Q: 먼저 정의를 묻고 싶습니다. 사람들은' 인공지능',' 신경망',' 심도학습',' 기계학습' 이라는 단어를 거의 교환할 수 있다. 그러나 이것은 별개의 일이다. 설명해 주시겠습니까?
인공지능은 1956 년 미국으로 거슬러 올라갈 수 있는데, 당시 엔지니어들은 지능을 모방하려는 컴퓨터 프로그램을 작성하기로 결정했다.
인공지능에서, 새로운 분야는 이미 성장하여 기계 학습이라고 한다. 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 걸음 한 예를 들어, 개체를 식별하려고 하면 많은 개체 이미지를 수집할 수 있습니다. 그런 다음 기계 학습을 통해 다양한 특징을 분석할 수 있는 자동화 과정으로, 한 개체가 자동차인지, 다른 개체가 스테이플러인지 확인할 수 있습니다.
기계 학습은 매우 큰 분야이며, 그 역사는 더 긴 기간으로 거슬러 올라갈 수 있다. 처음에는 사람들이 그것을 "패턴 인식" 이라고 불렀습니다. 나중에 알고리즘은 수학에서 더욱 광범위하고 복잡해졌다.
기계 학습에서, 뇌에 영감을 주는 신경망이 있고, 그 다음에는 심도 있는 학습이 있다. 심화 학습 알고리즘에는 데이터가 흐르는 여러 계층의 네트워크가 있는 특정 아키텍처가 있습니다.
기본적으로 심도 있는 학습은 기계 학습의 일부이며, 기계 학습은 인공지능의 일부이다.
Q: "심화 학습" 다른 프로그램에서 할 수없는 것은 무엇입니까?
프로그램을 쓰는 것은 매우 인력을 소비하는 것이다. 과거에는 컴퓨터 속도가 느리고 메모리가 비쌌기 때문에 사람들은 논리 (컴퓨터의 작동 방식) 를 사용하여 프로그램을 작성했습니다. 그들은 기본적인 기계 언어를 통해 정보를 조작한다. 컴퓨터가 너무 느려서 계산이 너무 비싸요.
그러나 지금, 계산 능력은 점점 싸고, 노무는 점점 비싸지고 있다. 컴퓨팅 능력은 이미 이렇게 싸게 변했고, 천천히, 컴퓨터 학습을 하게 하는 것이 인류가 프로그램을 작성하는 것보다 더 효과적일 것이다. (존 F. 케네디, 컴퓨터명언) 그때까지, 심도 있는 학습은 컴퓨터 시각과 번역과 같이 이전에 아무도 프로그램을 쓰지 않았던 문제를 해결하기 시작할 것이다.
기계 학습은 계산 집약적이지만, 하나의 프로그램만 쓰면 된다. 다른 데이터 세트를 주어 다른 문제를 해결할 수 있다. (존 F. 케네디, 공부명언) 너는 분야 전문가가 될 필요가 없다. 그래서 어떤 데이터량이 많은 것에도 대량의 응용이 있다.
Q: "심화 학습" 은 이제 어디에나 있는 것 같습니다. 어떻게 이렇게 주도해졌지?
나는 이 역사상 특정 순간을 정확하게 찾을 수 있다: 20 12 12 NIPS 대회 (가장 큰 AI 대회) 에서. 컴퓨터 과학자 제프 싱턴 (Geoff Hinton) 과 그의 두 대학원생은 65,438+00,000 개의 범주와 65,438+000 만 장의 이미지를 포함하는 ImageNet 이라는 매우 큰 데이터 세트를 사용할 수 있음을 보여 주었습니다.
일반적으로 이 데이터 세트에서는 1 년 이내에 오차가 1% 미만으로 줄어든다. 1 년 안에 20 년간의 연구 성과가 완성되었다.
이것은 정말로 조수의 수문을 열었다.
Q: 심화 학습은 뇌에 의해 자극됩니다. 그렇다면 컴퓨터 과학과 신경과학은 어떻게 함께 작동할까요?
심도 있는 학습의 영감은 신경과학에서 나온다. 가장 성공적인 심층 학습 네트워크는 Yann LeCun 이 개발한 컨볼 루션 신경망 (CNN) 이다.
CNN 의 구조를 보면, 그것은 단지 많은 단위만이 아니라, 기본적으로 뇌를 반영하는 방식으로 연결되어 있다. 뇌의 가장 좋은 부분은 시각 시스템에 있다. 시각 피질의 기초 연구에서 간단하고 복잡한 세포가 있다는 것을 알 수 있다. CNN 의 구조를 보면, 간단한 세포와 복잡한 세포가 동등하다는 것을 알 수 있습니다. 이것은 시각 시스템에 대한 우리의 이해에서 비롯된 것입니다.
얀은 맹목적으로 대뇌피질을 복제하려고 시도하지 않았다. 그는 많은 다른 변종을 시도했지만, 결국 그는 자연스럽게 수렴하는 방식으로 수렴했다. 이것은 중요한 관찰이다. 자연과 인공지능의 융합은 우리에게 많은 것을 가르쳐 줄 수 있고, 더 많은 탐구할 수 있는 것이 있다.
Q: 컴퓨터 과학에 대한 우리의 이해는 뇌에 대한 우리의 이해에 어느 정도 달려 있습니까?
우리의 현재 AI 의 대부분은 1960 년대에 뇌에 대한 우리의 이해에 기반을 두고 있다. 우리는 지금 더 많이 알고 있고, 더 많은 지식이 아키텍처에 통합되어 있다.
바둑 챔피언을 물리치는 프로그램인 알파고는 피질 모형뿐만 아니라 뇌의' 기저신경절' 이라는 부분도 포함돼 목표를 달성하기 위한 일련의 결정을 내리는 데 매우 중요하다. 리처드 서튼이 80 년대에 발명한 시차라는 알고리즘이 있습니다. 심도 있는 학습과 결합될 때, 그것은 인간이 본 적이 없는 매우 복잡한 게임을 할 수 있다.
우리가 뇌의 구조를 이해할 때, 우리가 어떻게 그것들을 인공시스템에 통합할 수 있는지를 이해하기 시작할 때, 그것은 우리가 현재 가지고 있는 것보다 더 많은 기능을 제공할 것이다. (존 F. 케네디, 컴퓨터명언)
Q: 인공 지능도 신경 과학에 영향을 미칩니 까?
그들은 병행하여 일한다. 혁신적인 신경 기술은 한 번에 하나의 뉴런을 기록하는 것에서부터 수천 개의 뉴런을 동시에 기록하는 것에 이르기까지 뇌의 많은 부분을 동시에 기록하는 것에 이르기까지 완전히 새로운 세계를 개척했다.
나는 인공지능과 인간 지능은 융합성이 있다고 말한다. 뇌가 어떻게 작동하는지 점점 더 많이 이해하게 됨에 따라, 이러한 이해는 인공지능에 반영될 것이다. 하지만 동시에, 그들은 실제로 뇌를 이해하고, 수천 개의 뉴런을 분석하고, 그들의 활동이 어떻게 생겨났는지 분석하는 데 사용할 수 있는 학습 이론을 만들어 냈습니다. 그래서 신경과학과 인공지능 사이에 이 피드백 루프가 있는데, 이것이 더 흥미롭고 중요하다고 생각합니다.
Q: 당신의 책은 자동운전에서 금융거래에 이르기까지 다양한 심도 있는 학습 응용에 대해 토론합니다. 어떤 특정 분야가 가장 재미있다고 생각하십니까?
내가 완전히 충격을 받은 응용 프로그램 중 하나는 인터넷의 발생이나 GANS 에 대항하는 것이다. 전통적인 신경망의 경우, 입력을 하고 출력을 얻습니다. 간은 투입하지 않고 활동을 할 수 있습니다. 즉, 출력을 생성할 수 있습니다.
네, 인터넷에서 가짜 동영상 제작에 관한 이야기 배경에서 이것에 대해 들어 본 적이 있습니다. 그들은 정말 진짜처럼 보이는 새로운 것을 생산한다, 그렇지?
어떤 의미에서, 그것들은 내부 활동을 일으킨다. 이것이 뇌가 작동하는 방식이라는 것이 밝혀졌습니다. 어딘가를 보고, 무언가를 보고, 눈을 감고, 거기에 없는 것을 상상할 수 있다. (존 F. 케네디, 희망명언) 당신은 시각적 상상력을 가지고 있습니다. 주변이 조용할 때, 당신의 자명종이 울리고, 생각이 떠오른다. (조지 버나드 쇼, 생각명언) 그것은 당신의 두뇌가 생식 능력을 가지고 있기 때문입니다. 이제 이 새로운 네트워크는 전례 없는 새로운 모델을 만들어 낼 수 있다. 예를 들어, 수백 장의 자동차 이미지와 같이, 존재하지 않는 자동차의 새로운 이미지를 생성하는 내부 구조를 만들 수 있습니다. 이 이미지는 자동차와 똑같이 보입니다. (데이비드 아셀, Northern Exposure (미국 TV 드라마), 자동차명언)
Q: 반면에, 당신은 어떤 생각이 과도하게 과대 선전될 수 있다고 생각합니까?
아무도 이 신기술의 도입이 미래 사물의 조직 방식에 어떤 영향을 미칠지 예측하거나 상상할 수 없다. 물론 투기도 있습니다. 우리는 아직 진짜 어려운 문제를 해결하지 못했다. 우리가 보편적 지능을 갖기 전에, 어떤 사람들은 로봇이 곧 우리를 대신할 것이라고 말한다. 사실 로봇은 인공지능보다 훨씬 뒤떨어져 있다. 왜냐하면 몸을 복제하는 것이 뇌를 복제하는 것보다 더 복잡하기 때문이다.
이 기술적 진보를 살펴 보겠습니다: 레이저. 그것은 약 50 년 전에 발명되었는데, 당시 그것은 방 전체를 점령했다. 방 전체를 차지하는 것부터 현재 연설용 레이저 펜까지 기술 상용화는 50 년이 걸린다. 반드시 그것을 충분히 작은 사이즈로 밀어야 한다, 5 위안이면 살 수 있다. 자동운전차와 같은 과대 광고된 기술에서도 같은 일이 일어날 수 있다. (존 F. 케네디, 자동차명언) 내년이나 미래 10 년 안에 어디에나 있지 않을 것으로 예상된다. 이 과정은 50 년이 걸릴 수도 있지만, 이 과정에서 점진적으로 추진되어 더 유연하고 안전하며 우리가 교통망을 조직하는 방식과 더욱 호환될 수 있다는 데 중점을 두고 있다. 과대 광고의 실수는 사람들이 잘못된 시간 척도를 설정했다는 데 있다. 그들은 너무 많은 일이 너무 짧은 시간 내에 발생할 것을 기대하지만, 사실 일은 정확한 시간에만 발생한다.
심도 있는 학습에 관한 문제는 이 홈페이지의 동영상에서 설명할 수 있다: AI 심도 있는 학습-중과원 공개 수업.