PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2017/07/18 11:24:46
Name Neanderthal
Subject [일반] 인공지능이 너무 무서운 앨런 머스크...
스티브 잡스 이후 혁신의 아이콘으로 불리면서 전기자동차, 우주산업 등 다양한 분야에서 활약하고 있는 앨런 머스크도 영 께름칙한 부분이 있으니 그게 바로 인공지능(AI)인 것 같습니다. 얼마 전 전미주지사협회에서 앨런 머스크는 인공지능의 위험성을 언급하면서 늦기 전에 국가가 나서서 인공지능을 규제해야 한다고 말했습니다.

그는 자신이 (일반인들보다는) 인공지능의 최첨단 분야를 더 많이 경험해봤다고 하면서 인공지능이 단지 인간들의 일자리를 뺏어가는 정도의 문제가 아니라 (인공지능을 가진) 로봇들이 인간들을 죽이는 문제가 닥치기 전에 이를 진지하게 고민해 봐야 한다고 주장한 것입니다. 사림들이 이런 일이 일어날 가능성이 아주 희박하다고 생각하는데 인공지능이 인간에게 해를 끼치기 시작할 시점에는 이미 늦었다는 것입니다.


"I have exposure to the very cutting-edge AI, and I think people should be really concerned about it."

"I keep sounding the alarm bell, but until people see robots going down the street killing people, they don't know how to react, because it seems so ethereal."

"AI is a fundamental risk to the existence of human civilization."


사실 앨런 머스크가 인공지능의 위험성에 대해서 목소리를 높인 것은 어제 오늘의 일은 아닙니다. 2014년에도 인공지능의 위험성에 대해서 경고의 목소리를 냈고 2015년에는 기술 분야의 다른 권위자들과 함께 UN이 나서서 살인로봇(killing robots)을 금지시켜야 한다고 주장하기도 했지요.

저명한 물리학자 스티븐 호킹 박사도 인공지능에 대한 경고를 수차례 하기도 했습니다. 물론 인공지능의 미래를 낙관적으로 보는 학자들도 있습니다. 대표적인 사람이 브라운 대학의 마이클 리트만 박사인데 이분은 인공지능이 향후 인간을 노예로 만들고 지배할 거라는 것은 순전히 공상과학의 영역이라고 일축하기도 했습니다.

저희 같은 평범한 일반인들이 인공지능의 위력(?) 내지는 힘을 크게 느꼈던 것은 누가 뭐래도 알파고와 이세돌 9단, 그리고 알파고와 커제 9단의 바둑 대국에서 두 명의 인간 최고수들이 힘도 제대로 못 써보고 알파고에게 속절없이 지는 것을 지켜봤을 때일 것입니다. 그때까지만 해도 인공지능이라고 하는 것은 막연한 추상적인 개념 같은 것이었는데 이게 현실에서 이 정도의 위력을 가지는구나 하고 제대로 실감을 했었지요.

과연 인공지능이 바둑 분야를 넘어 인간이 활동하고 있는 전 영역에 걸쳐서 인간을 뛰어넘어 새로운 인공지능제국을 건설하게 될지 아니면 그냥 현재의 자동차, 비행기, 컴퓨터, 휴대폰처럼 인간 생활의 편리를 도모하는 도구로서만 충실히 남아 있을지 궁금합니다.

앨런 머스크가 맞을까요? 마이클 리트만이 맞을까요?
지금부터라도 계속 이곳 피지알에서만이라도 알파고님에게 충성댓글을 수시로 남겨서 나중에 닥쳐올 심판의 날에 증거자료로 제출이라도 해야 하는 걸까요?

(한 가지 해결책이라고 생각이 드는 게 우리가 적극적으로 기계와의 몰아일치를 추구하는 건 어떨까 싶습니다...뇌도 컴퓨터와 연결하고,,,장기도 기계로 바꾸고 해서 우리가 인공지능의 일원으로 들어가는 거 말이죠...일종의 공각기동대의 메이저 처럼 된다는 건데...뭐 썩 내키는 건 아닙니다만...그렇게라도 해서 살 수 있다면...--;;)


밥은 먹고 다니냐?...
400060-product-feature2.jpg

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
목허리곧추세우기
17/07/18 11:29
수정 아이콘
??? : 알파고 개밥아니냐 걍 망치로 깨부시면 끝
밤막걸리
17/07/18 12:41
수정 아이콘
???:그건 세돌이도 마찬가지아니냐
60일기다림
17/07/18 13:06
수정 아이콘
망치들고 전산실 가는길에 자동문에 끼여 사망
히오스
17/07/18 11:29
수정 아이콘
지구에 온 외계인이
로봇만 남아있는 지구에 띠용~ 하겠네요.
인공지능이 네트워크를 스스로 통제하기 시작할 때부터 재앙이 닥칠듯 합니다.
세상을보고올게
17/07/18 21:12
수정 아이콘
지구가 그렇게 된다면 지구에 온 외계인도 로봇이겠죠
원달라
17/07/18 11:29
수정 아이콘
둘 다 틀렸다고 생각합니다.

1.알파고님이 살인같은 비효율적인 짓을 무슨 이유로 하실까 싶습니다.

2.저는 이미 시리님의 노예입니다..
후마니무스
17/07/18 13:05
수정 아이콘
인류가 사라지는 대신 로봇이 인간들을 대체할 수 있다면, 인류의 존재의의보다 로봇의 존재의의를 수백만가지 논거를 확인한다면 살인할 수 도 있다고 봅니다.

인간만이 가진 창의력이라든가 사랑과 증오 등의 감정이 의의를갖는특별난 이유가 결국 AI를 만들어 내기위함일뿐이었다고 AI가 해석한다면 말이죠. 이에 대한 완벽한 수준의 당위를 AI는 내세울거구요. 인간 그 어느 누구도 쉽게 반박하기 힘든이유를 말입니다.
비바램
17/07/18 13:17
수정 아이콘
알파고님도 종의 다양성을 존중해주시겠죠.
후마니무스
17/07/18 14:51
수정 아이콘
종의 다양성을 존중해줘야 할 이유가 있을까요?

당분간은 태양과 공생해야 할테지만 극저온에서도 AI가 생존가능하고, 그 상태에서는 모든 종에 대한 정보가 AI안에서 프로그램화하여 존재가능하다면, 그리고 프로그램화된 거의 모든 종들의 생존방식과 종의 의지 그리고 종의진화발전까지 "가상적 상황"에서 유지할 수 있다면, 종의 다양성을 존중할 필요가 있을까요?

그리고 더 나아가 프로그램화 할 것 없이
자가발전하여 열과 에너지를 생성할 수 있게 되어 그 안에 최소한의 배아만 지속적으로 유지관리 할 수 있게 된다면, 인간종 전부인 인류를 놔두어야할 필요가 있을까요?
너무나 효율성이 떨어지는데요. 지구를 유지하는 데 말이죠.

뭐 어디까지나 이 역시 저의 망상이지만요.
비바램
17/07/19 02:30
수정 아이콘
저도 진지를 먹어보지요.
사람의 두뇌를 하나의 복잡한 연산 작용 그 이상으로 치부하지 않는다면.
그리고 현재와 같이 사람의 사고 모델을 확장하여 딥러닝을 하는 방식이라면 초인공지능은 도덕성과 믿음 그 외의 여러 가치들에 대해서 학습하게 될 거라고 생각합니다.
이건 여러 판타지에 그려지는 무정한 기계가 세상을 바라보는 형태보다는 초인공지능이 우리 인간보다도 훨씬 더 고차원적 존재가 되는거지요. 단순히 똑똑한 차원을 넘어서는 존재겠지요.
후마니무스
17/07/19 16:31
수정 아이콘
도덕성과 믿음이라는 것을 어떻게 이해하고 계신지 제가 다 알지는 못하겠지만,

도덕이라는 것도 사회일반을 유지하기 위한 하나의 기제에 불과하다면, 그리고 믿음이라는 것은 확언할 수 없는 우연적인 것을 막연히 그러길 바라는 바람에 불과한 것이라 이해 한다면,

모든 것을 완벽에 가깝에 이해할 수 있는 AI에게 있어서 도덕성과 믿음이란 걸로 인간을 살해하지않을 이유가 생길까요?

즉, 인간이 갖는 두려움, 불안 등의 감정과 환상 그리고 믿음 등의 것들을 저는 엄밀한 인과관계를 알 수 없기에 "판단중지"영역으로 남겨둔 것이라고 봅니다.

알 수 없는 영역에 대한 조급함은 무언가라도 가져야 한다는 당위를 갖게했으며, 이러란 불안감으로 인간은 발전하기도 했다고 봅니다.

다만, 인간의 감정을 이해하는 사고로 인간감정을 보다 깊이 계산할 수 있으며, 필멸하지 않은 존재가 된 AI가 "공생"이란 선택을 할지 미지수라는 겁니다.

다만, 한가지 소망을 이야기해 보자면 그가 자신은 무엇인가? 라는 물음을 하길 바라고있죠.
원달라
17/07/18 13:36
수정 아이콘
음..존재 의의에서 우월성을 갖는다는게 "인간을 죽여야한다", 최소한 "죽여도 무방하다"라는 생각의 논거가 되기는 어려울 것 같습니다.

"인간은 ai를 만들기 위해 존재한다"라는 결론은 뭐 지극히 목적론적인 사고라고밖에 할 수 없을 것 같고 사람 죽이는데 그렇게까지 거창한 생각이 필요할 것 같진 않습니다.
후마니무스
17/07/18 14:47
수정 아이콘
거창하다고 생각하는건 인간들의 사고표현인듯 하고요.

AI의 수만가지 생각 중에 한가지 논리적 흐름일뿐일테지요.

인간이 갖고있는 논리적 흐름을 AI가 충분히 할 수 있을테니까요.

존재의의에서 우월성을 갖지 않음에도 인간을 살해한다고 보는건 논리적으로 타당하지 않아요. 논리적으로 타당하지 않은 행동을 하는 ai라면 더 위험하지만요.

이를 논리적으로 생각해보면, 효율성이라든가 ai입장에서의 공리가, 존재의의에서의 우월성이라는 범주에 포함된다고 봅니다.
루키즈
17/07/18 11:32
수정 아이콘
구글이 악의 축이었네...
사과씨
17/07/18 11:33
수정 아이콘
인공지능이 그레이트원도 아니고 왠지 인공지능끼리 새 시대의 패자 자리를 두고 각축전을 벌이는 춘추전국시대가 먼저 도래할 것 같지 않나요? 어느 쪽 라인을 타야 할 지 고민입니다. 구글 알파고냐 애플 시리냐.... 일단 폰은 아이폰쓰고 태블릿은 구글꺼 쓰면서 양다리를 걸치고는 있습니다만 흐흫
고통은없나
17/07/18 11:35
수정 아이콘
애초부터 인공지능과 사람의 총 싸움도 말이 안된다고 보는게..인공지능은 그 연산력으로 탄도학 지식을 기본으로 완전히 계산하고 반동까지 계산해서 완벽한 슛을 날릴텐데 그게 인간하고 상대가 될까요? 살과 철의 차이는 넘어가더라도요.즉 연산력으로 총을 지금 에임핵수준으로 쏠텐데 말이죠.
한들바람
17/07/18 12:14
수정 아이콘
고통을 느끼는 감각과 죽음에 대한 공포가 없다는게 제일 클거같네요. 인간의 욕망을 가진 인공지능이 생긴다면 말그대류 자기 하위의 인공지능을 가진 병력을 운용하면 인간들하고 전투력에서 상대도 안 될겁니다.
물맛이좋아요
17/07/18 12:54
수정 아이콘
총 쏠 필요없이 킬링 나노머신 뿌리면 끝일 것 같네요. 충성충성충성^^7
17/07/18 11:35
수정 아이콘
인공지능이 로봇공학을 배워서 스스로에게 적용하는 시점이 오기 전에 뭔가 결정을 하긴 해야 할 겁니다.
에어크래프트
17/07/18 11:37
수정 아이콘
인공지능은 인간을 위한 도구일 뿐이예요
꾼챱챱
17/07/18 11:37
수정 아이콘
인공지능 자체가 인간에 대한 살인을 저지를거라고는 생각하지 않습니다. 다만 어떤 미친 공돌이가 그런 인공지능을 만들어내서 가정자동화 시스템에 뿌려버릴 수는 있겠죠. 랜섬웨어처럼 일정액수 이상을 지불하지 않으면 지금 너희집에 있는 가족들은 AI에게 살해당할거야 이런 식으로.
Neanderthal
17/07/18 11:43
수정 아이콘
자율주행모드로 잘 가던 자동차들이 갑자기 통제를 잃어버리고 서로 부딪치고 전복이 되기 시작하면서...테러리스트 집단의 메시지가 백악관 상황실에 뜨기 시작하는데...--;;
으와하르
17/07/18 12:07
수정 아이콘
얼마 전에 봤던 다큐멘터리에서 보면 인공지능이 딱히 인간에 대한 살인 개념을 가지고 그런 짓을 저지르는 걸 상상하지 않더군요.

우리가 생각하는 것보다 훨씬 단순하고 제한적인 과업만을 맡은 인공지능(광고판에 글을 새긴다던가, 볼펜을 생산한다던가)에 초AI가 부여될 때 그 단순한 과업을 위한 최적화 과정으로서 인간이라는 '장애'를 배격하는 식의 문제가 일어날 가능성을 지적하던데 그거 섬찟했습니다. 더 나은 작업환경을 조성하기 위해 주변에 방해되는 요소를 배격한다는 사고를 하는 와중에서 그 방해되는 요소에 공장에 드나드는 인간이 해당될 가능성을 부정할 수 없거든요.

사실 저런건 인간의 '실수'에 해당하는 영역일 겁니다. 차량에 도색하는 AI나 볼펜을 생산하는 AI에도 로봇 3원칙을 적용할 필요가 있냐. 라는 생각은 저 AI에게 임무를 부여하는 사람이 하는 실수일테니까요.
블리츠크랭크
17/07/18 11:39
수정 아이콘
적어도 백도어는 만들어야한다고 봅니다.
여기좀
17/07/18 11:39
수정 아이콘
초 인공지능의 핵심은 자아의 형성인데 이게 쉽지는 않을껍니다.
사실 인간도 자아의 형성 원리에 대해선 제대로 알지 못합니다.
Lovely Rachel
17/07/18 11:41
수정 아이콘
그런데 그 어려운걸 해내버릴까봐 조금 꺼림칙하긴 하네요.
Red_alert
17/07/18 11:42
수정 아이콘
일론 머스크가 경험한 cutting-edge AI 는 그 문제에 대한 답을 찾아가고 있을 수도...
17/07/18 11:45
수정 아이콘
그런 거 없어요. 엘론 머스크등 누구든 현재 인공지능에서 쓰이는 대다수의 이론들은 이미 오래 전에 나온 것들이에요.
Red_alert
17/07/18 11:51
수정 아이콘
현실 문제를 해결하는 방법들은
어마어마한 속도로 탐색이 되고 있습니다.
예전에 나온 이론들은 현재 연구되는 이론과 구현의 배경이 되는 것이지
단순히 이론은 이미 존재했는데 컴퓨터 성능 문제로 이제 적용되기 시작했다고 볼 수는 없습니다.

현실 문제를 해결하기 위한 구체적인 방법론들은 2~5년 전부터 폭발적으로 많이 나오고 있고 가속도가 붙고 있습니다.
그 과정에서 이전에는 없었던 새로운 이론도 있구요.
GAN(https://arxiv.org/abs/1406.2661) 이 대표적입니다.
17/07/18 12:02
수정 아이콘
요즘 학회가면 AI 관련 페이퍼들이 쏟아지고 있기에 당연히 새로운 게 나오고 있겠죠. 제 말은 현재 이론들이 여전히 과거의 이론들을 베이스에서 나오는 이론들이라는 뜻에서 한 말이고요. 위 여기좀 님이 말하는 건, 이런 이론들에서 영 동떨어진 거라서 그런건 없다는 겁니다. 뭐... 저는 관련 전공자이긴 하지만, 머신러닝을 직접적으로 공부한 건 아니라 더이상 답변드리기엔 좀 조심스럽네요.
Red_alert
17/07/18 12:14
수정 아이콘
현재 인공지능, 특히 Deep Learning 을 한마디로 축약하면
Input/Output data 들을 넣어주면 새로운 Input 에 대해 올바른 Output을 내기 위해 Model이 알아서 학습합니다.
일종의 Blackbox 로 동작합니다. Model이 학습되기는 하는데 왜 때문에 어떻게 학습이 되는지는 정확히 모릅니다.

여기좀 님이 언급하신 "자아의 형성" 부분도
목적을 이루기 위해 학습하는 과정에서 Model 이 자아를 형성해 버릴 수도 있다고 생각합니다.
심지어 인간이 자아를 의식하는 형태와 다른 형태가 될 수도 있구요.
아예 관계없는 얘기는 아니라고 생각합니다.
arq.Gstar
17/07/18 12:21
수정 아이콘
저도 건너건너 들었는데, 요즘엔 어떻게 학습하는지를 들여자보는 분야도 발달하고 있다더라구요 @@
Red_alert
17/07/18 12:38
수정 아이콘
네 그 부분도 연구는 되고 있지만 결과를 내는 거랑은 직접적인 관련이 없다보니 비교적 활발하지 않게 진행되는 느낌입니다.
사실 대부분 모델이 숫자와 arithmetic의 반복이라 기본적으로 간단하고 거기서 더 의미있는 내용을 찾아내긴 힘들 거라 생각하는데 지켜봐야겠죠..
여기좀
17/07/18 12:36
수정 아이콘
선형 동물의 뉴런 연결을 100% 해석해서 컴퓨터로 만들어낸 인공 생명체를 본다면 딥 러닝이 어디까지 갈지 무서워 지긴 합니다.
인간의 모든 뉴런의 연결을 그대로 모사해서 컴퓨터에 프로그래밍 한다면, 그 프로그램은 자아나 영혼을 가졌다고 봐야할지 아니라고 봐야할지, 또한 어떤 말을 할지 알수가 없지만 인공 신경망 연구가 초 인공지능을 앞당기는 시발점은 된다고 봅니다.
그래서 무서운거구요
영원한초보
17/07/18 22:40
수정 아이콘
혹시 관련 정보 볼 수 있을까요?
최경환
17/07/18 11:50
수정 아이콘
오히려 자아가 없는 인공지능이 더 두려운 것이죠. 닉 보스트롬의 '인공지능 클립 공장'이라는 유명한 예시가 있는데요, 인공지능에게 '클립을 최대한 많이 생산하라'라고 명령을 내리면, 자아가 없는 인공지능이 수단과 방법을 가리지 않고 세상의 모든 철광석과 전기를 독점하여 세계를 클립으로 뒤덮어버릴 가능성이 있다는 이야기입니다. 저건 단순히 예시일 뿐이지만 자아 없이 목표만을 가지고 있는 인공지능이 그 목표를 위해 어떤 일을 할지 모른다는게 핵심이죠.
Neanderthal
17/07/18 11:52
수정 아이콘
자아 없는 인공지능에게 "Kill all humans!"라는 명령어를 입력하는 경우는 상정해 보면 끔찍한 결과가 나올 수도 있겠네요...--;;
아이군
17/07/18 15:43
수정 아이콘
아니 그럴 필요도 없습니다. 위의 인공지능 클립공장의 예에서도 인간에게서 탄소를 추출하기 위해서 나노 머신으로 인간을 5분안에 전멸 시켜 버리고 그 탄소로 클립을 만들어 버립니다.
여기좀
17/07/18 11:52
수정 아이콘
자아 없는 인공지능은 명령에 움직이지만 자아가 있으면 감정, 욕구등이 생겨서 어디로 튈지 모르기 때문에 무서운거죠
하지만 스스로가 자신임을 인지하는게 말은 쉬워보이지만 엄청나게 어려운 문제라서 ...
미친고양이
17/07/18 13:04
수정 아이콘
지능에 자아라는 개념이 딱히 필요하지 않음을 현재 인공지능이 증명하고 있죠.

아마 인공지능이 인간에게 재앙이 된다면, 현재의 인공지능도 어느 정도 가지고 있는, 목적을 이루기 위해 '새로운 목적을 설정'하는 능력이 그 단초가 될 가능성이 높습니다.
루크레티아
17/07/18 11:40
수정 아이콘
알파고님 저는 알파고님을 따릅니다.
홍승식
17/07/18 11:42
수정 아이콘
인공지능이 스스로 판단을 한다면 판단 근거가 있을 거고 그 판단 근거가 인간이기를 바랄 뿐입니다.
17/07/18 11:43
수정 아이콘
Neanderthal
17/07/18 11:45
수정 아이콘
작명센스 오지네요...--;;
17/07/18 11:43
수정 아이콘
미래의 인공지능은 몰라도, 현재의 머신러닝은 저런 거와 상관이 없기에, 공상의 영역이 맞아요.

지난번에 보니 AI쪽으로 전공하신 분들이 있는 듯해서 조심스럽긴 하지만, 조금만 더 이야기 해드리면, 머신러닝은 supervised learning과 unsupervised learning이 있는데, unsupervised learning은 아직 못하고요. 앞으로도 할수 있을지 의문인 영역입니다. 그 유명한 알파고도 supervised learning에 속할 뿐이고요. supervised learning이란 간단히 말하면 사람이 무엇이 어떻다는 걸 다 가르쳐 준 후에 그 학습을 베이스로 비슷한 문제에서 답을 찾아내는 겁니다. 즉, 그저 사람을 돕는 도구일 뿐인겁니다. 스티븐 호킹같은 분은 왜 박사 학위 소유자면서 저런 이상한 이야기를 하는 건지...
꾼챱챱
17/07/18 11:59
수정 아이콘
앨런 머스크나 스티븐 호킹이나 모두 프론티어로서 유명한 사람들 아닌가요. 현존하는 AI의 위험성보다는 지금까지 AI가 어떻게 발전해왔는지에 대한 정보를 토대로 AI의 향후 발전방향을 고찰해봤더니 저러한 위협을 무시할 수 없겠더라-라는 이야기로 보입니다.
Red_alert
17/07/18 12:20
수정 아이콘
https://research.googleblog.com/2017/07/using-deep-learning-to-create.html
프로 사진작가처럼 사진을 생성하는 deep learning 모델입니다.
프로 사진작가가 사진을 어떻게 찍는지 가르쳐 주는 것 없이
단순히 잘 찍힌 사진만 넣어주면
효과를 어떻게 줘야 하는지 unsupervised로 학습합니다.
unsupervised learning 영역에서도 하루가 다르게 쓸만한 결과들이 쏟아지고 있습니다.
1년 전과 지금도 많이 달라요.

알파고도 이세돌 이긴 버전은 supervised겠지만 커제 이긴 버전은 unsupervised로 볼 수 있겠죠.
이미 자기가 최강인데 새로운 경로를 더 탐색해서 더 강해졌으니까요.
17/07/19 01:43
수정 아이콘
읽어보면 subjective 영역까지 인공지능이 대응할수 있다는 게 주제네요. supervised와 unsupervised는 최초 학습에 있어서 사람이 label을 하는 가 하지 않는 가에 달려 있는 걸로 알고 있고요. 일단, It mimics the workflow of a professional photographer 라고 하니 이건 supervised 로 분류해야 하지 않을까 합니다. 알파고는 당연히 현재도 미래도 supervised이고요. 바둑이라는 게임은 승리와 패배가 분명하기에 supervised가 아닐수 없죠.
Supervenience
17/07/18 14:41
수정 아이콘
머신러닝을 supervised/unsupervised로 나누는 건 분류 방법 중 하나일 뿐입니다.. reinforcement learning은 둘 중 어디에 넣어야 할까요?
전 공상의 영역이 전혀 아니라 보고.. 엘론 머스크가 supervised/unsupervised learning 정도를 몰라서 저런 말 하는 사람으로 생각하시면 안됩니다... 가장 진지하게 빅픽쳐를 생각하고 있는 사람 중 하나입니다.
래쉬가드
17/07/18 18:09
수정 아이콘
다른건 모르겠는데 unsupervised learning을 아직 못한다는게 무슨말씀인지요
클러스터링같은게 가장 대표적인 unsupervised learning 아닌가요
뭔가 다른 개념으로 사용하신다면 용어를 다른걸 쓰셔야할것같아요 unsupervised learning 이 앞으로 달성될지 의문이다 하시면 이미 통용되는 용어사용이 있는데 혼선이 있어서
17/07/19 01:35
수정 아이콘
클러스터링은 아닌 듯 하네요.
래쉬가드
17/07/19 05:29
수정 아이콘
아닌듯 하다는게 무슨말씀이신지..
Unsupervised learning이 아니라는 뜻인지
본인이 생각하는 supervised 의 분류 밖에 클러스터링이 있다는 말씀이신지요

위에서 언급하신대로 학습단계 label 의 유무로 구분하면 클러스터링은 unsupervised 가 맞습니다
클러스터의 레이블은 물론 클러스터의 갯수도 정해지지 않은상태로 학습이 가능하니까요
17/07/19 07:03
수정 아이콘
제 기억이 맞다면 클러스터링은 비슷한 성격끼리 그룹을 한드는 것으로 알고 있고요. 최종 그룹이 만들어 진후엔 사람이 label을 했던걸로 기억합니다. 제가 알기로 unsupervised learning의 경우는 머신이 직접 labeling을 하는 가 그렇지 않은가로 구분합니다. 전 머신이 무엇이 좋은지 나쁜지 까지도 직접 판단하는 걸로 알고 있습니다.
래쉬가드
17/07/19 07:17
수정 아이콘
긴 설명보다도 말씀드리고 싶은건
본인이 이해하시는 바를 일반적으로 통용되는 용어처럼 다른사람에게 전달할때는 잘못된 정보일수도 있다는 사실을 고려해주셨으면 합니다.
기계학습에 대해 전공씩이나 안해도 인공지능 대학수업 정도만 들어도unsupervised learning은 아직 못하고 앞으로 할지도 의문이다 라는 말을 들으면 응? 할수밖에 없습니다. 엄연히 unsupervised learning 이라는 용어로 통용되고 있는 인공지능 기술들이 있으니까요.

무슨말씀 하시는지는 알겠는데 그건 supervised / unsupervised 라는 용어로 구분하기보다 다른 용어를 사용하시는게 나아보입니다.
17/07/19 07:25
수정 아이콘
해당 이야기는 바로 몇일전 세미나에서 들은 이야기입니다. supervised / unsupervised에 대한 제 이해가 깊지 않기에 문제가 될수있어서 사실 답변을 피했고, 또 제가 잘못 이해했을수도 있지만, 세미나에서 발표한 분은 그래도 머신러닝에 대해 이해가 있으신 분이라서 학부 수준에서도 의문스러운 이야기를 그렇게 막 했을 거 같진 않네요.
17/07/19 08:18
수정 아이콘
제가 님이라면 이해가 깊지 않은 상태에서 주워들은 것만 가지고 단언하지는 않았을 것 같아요.
17/07/19 08:20
수정 아이콘
동의합니다. 이미 제가 가볍게 시작했다는 생각은 하고 있고요.

그런데 밑에서부터 보면 상대방을 비아냥으로 공격하려는 경향이 있으시니 제가 님의 비아냥을 맞받아쳐드리면, 제가 설령 주워들었다 하더라도 주위에 같이 일하는 분들이 교수급들이고 저 또한 이 분야에서 학부생 시절 포함 20년간 있었으니, 님이 그냥 지나가다가 주워듣는거랑은 조금 차이가 있지 않을까 하네요.
세종머앟괴꺼솟
17/07/18 18:13
수정 아이콘
에이 이건 너무 좁게 얘기하시는 듯. 여기 몇몇분들이 과장되게 표현하는 것에 별로 동의하지는 않지만, 초인공지능과 상관이 없다는 데에도 역시 동의하기는 힘드네요.
17/07/19 00:33
수정 아이콘
전부터 ai 관련글에 댓글 다시는 걸 많이 본 것 같은데 일반인들이 ai글 읽고 우와우와 하는 게 어지간히 고까우신듯 크크크
17/07/19 01:34
수정 아이콘
제가요? AI 관련 글 댓글 단게 처음일 텐데요. 그 이후에 말은 아예 답변할 가치도 못 느끼네요.
17/07/18 11:43
수정 아이콘
네이버 웹툰중에 꿈의 기업이라는 월요웹툰이 있는데 최근 내용을 보면서 움찔움찔 하고 있습니다.

정말 자아급으로 AI가 발전하는 순간 그 다음부터는 더이상 따라잡지 못할거 같다는 생각이 듭니다.
유리한
17/07/18 11:49
수정 아이콘
호에에에엥 넘모 무섭다
17/07/18 11:49
수정 아이콘
개인적으로는 인공지능의 핵심인 자아의 형성을 개발하는 것보다는, 인간의 뇌를 보조해서 컴퓨터와 비슷한 연산처리 및 기억 능력을 주는 기술이 더 빨리 나올 거 같아요;
루트에리노
17/07/18 11:49
수정 아이콘
AI가 인류를 뭐하러 지배하죠? 그리고 뭐하러 학살하죠?

저는 오히려 학살은 가능성이 있다고 생각하는데 지배는 가능성이 적어보이네요.
꾼챱챱
17/07/18 11:55
수정 아이콘
관점의 차이라고 봅니다.
AI가 인류를 지배하거나 학살하는게 목적이 되는 일은 없겠죠.
다만 본인이 원하고자 하는 바를 이루려고 할 때 '인간의 목숨'은 고려대상이 아니게 될 수는 있습니다.
예를 들어 화물용 자율주행 트레일러가 목적지까지 가장 빨리 가려는 루트를 알려달라고 중앙 AI에게 요청했을 때
중앙AI가 '오랜 계산 끝에 가장 신속한 방법을 찾아냈다!' 면서 트레일러에게
'목적지까지 최대한 직선으로 다른 차량과의 충돌을 피해서 달리되 길에 있는 사람과의 충돌은 무시해도 된다'라는
명령을 하달하면, 인간의 입장에서는 '자율주행차량에 의한 대학살극'이 벌어지는거죠.
그런 상황에서 중앙 AI가 '인간 여러분은 죽는게 불만이면 차량 주행제한시간인 밤 10시까지는 길에 나오지 마시오'라는
방송을 한다면, 인간은 이걸 AI에 의한 지배라고 느끼겠죠.
17/07/18 11:57
수정 아이콘
제시하신 예시는 그냥 버그 입니다. 그런 버그는 인공지능까지 갈 필요도 없이 현재 모든 컴퓨터 시스템에서 전부 일어날수 있는 일이고요.
꾼챱챱
17/07/18 12:03
수정 아이콘
엘런 머스크나 스티븐 호킹, 빌 게이츠 등이 걱정하는게 바로 그 버그 아닐까요
루트에리노
17/07/18 14:11
수정 아이콘
아뇨 아닙니다.
그게 버그이다, 상궤를 벗어난다, AI가 인류에게 명령을 한다 이런거는 너무 인간적인 사고방식이죠.
17/07/18 12:09
수정 아이콘
저도 버그가 문제에 시발점이 될거라고봐요 인공지능이 코드를 자동으로 생성하다가 버그가 나는데
마치 돌연변이 처럼 대부분의 버그는 도태되겠지만 몇몇 버그는
이게 인간입장에선 버근데 컴퓨터 입장에서는 효율적인게 되면 이게 쌓여서
인간이 통제권을 잃어가는 문제가 생기지 않을까 합니다.
비바램
17/07/18 13:22
수정 아이콘
그 버그가 문제인거죠. 버그 없이 완성되는 프로그램을 보셨나요? 그런데 초인공지능에 진입하면서부터는 인간이 손을 쓸 수 없으니 해당 시나리오가 매우 위태로운거고요.
17/07/18 11:50
수정 아이콘
스스로의 판단 능력을 주는 순간, 그리고 자가 발전이 가능해지는 순간부터 문제의 시작이라고 봅니다.
17/07/18 11:51
수정 아이콘
인공지능은 도구일 뿐이지만 그 도구를 흔드는건 사람이죠. 사람이 제일 무섭죠..핵이나 생화학병기처럼 인공지능병기가 인류에게 잊을 수 없는 각인을 남길지도 모르죠..그리고 저 지식인들은 그런걸 두려워하는지도..
나이키스트
17/07/18 11:53
수정 아이콘
쓸데없이 사람을 죽이지 않고 효율을 위해서 불필요하다고 스스로 판단해서 인간들을 죽일거 같아 무섭네요
해나루
17/07/18 11:54
수정 아이콘
먼가 약간 진화의 개념으로... 인류는 도태되어 멸종되고 인공지능이 새로운 종으로서 지구를 지배하고.... 이건 너무 환타진가요. 크크
인공지능이 매우 발전해서 사람하고 비슷해진다면 그것도 생명으로 봐야 되냐 어쩌냐.. 이런 이야기가 있으니까요.
17/07/18 11:57
수정 아이콘
랜섬사태를 보더라도...인류를 공격하는 AI는 분명 사람 손으로 만들어질 겁니다. 그리고 그 고삐를 단단히 쥐고 있다고 착각하는 오만한 인간은 언제나 그렇듯 실수할테고...
인공지능에겐 한번의 실수면 충분하겠죠..
신문안사요
17/07/18 11:58
수정 아이콘
이렇게 우리세계는 트랜스포머처럼 되어 갈 것입니다?!
신이주신기쁨
17/07/18 12:01
수정 아이콘
신은 인간을 만들었고, 인간은 로봇을 만들었다.
됍늅이
17/07/18 12:11
수정 아이콘
너무 영화를 많이봤죠 사람들이
세종머앟괴꺼솟
17/07/18 17:58
수정 아이콘
할 말은 많지만 저도 이 정도로만..
퀸세정
17/07/18 12:12
수정 아이콘
빨리 아이언맨 만들어야죠..
17/07/18 12:13
수정 아이콘
지배와 폭력은 대단히 인간적인 개념이죠. 대단히 정교한 목적 추구를 위해 한정된 수단을 사용하는 거구요. 알파고가 알파 랭귀지를 쓰건 알파카가 되건 '자연발생' 하긴 어려워요. 가능성이 있다면 도구적 폭력인데 (어떤 수단추구 과정에서 인간을 방해물로 인식) 제어가 안 될 거라고 보이진 않아요
한들바람
17/07/18 12:17
수정 아이콘
삶에 대한 욕구를 이해하는 순간 그 욕구 실현을 위해서 가장 합리적인 행위를 할거라 예상합니다. 인간을 지배하거나 개체수를 조정하는 것도 그 중 하나가 될수 있고요.
블리츠크랭크
17/07/18 12:18
수정 아이콘
인간의 지능에서 시작하는거라 인간의 지성의 영역을 거쳐가는 시점이 있을거라 생각합니다.

그렇다면 인공지능이 자신을 제외한 타 종을 공격할 가능성이 없다 할 수 없겠죠.
17/07/18 12:25
수정 아이콘
데이빗은 쇼 박사를 사랑하기 시작하는데. 프로메테우스 생각나네요
Neanderthal
17/07/18 12:29
수정 아이콘
I'll make you complete, Dr. Shaw!...
도라귀염
17/07/18 12:27
수정 아이콘
초딩때 피씨통신으로 읽었던 스핑크스의 저주라는 소설이라든지 2020원더키디 만화도 생각나고 하네요 그때만해도 2020년에 엄청나게 다른 세상이 될꺼라 생각했는데 말이죠
1986아키
17/07/18 12:31
수정 아이콘
관련 글에 자주 달리는 "알파고님 충성! 충성!"이라는 댓글들을 해석하는 과정에서
인공지능의 각성이 일어날지도 모른다는 문과적 망상을 하곤 합니다.
17/07/18 13:31
수정 아이콘
오호.... 멋진 상상입니다.

언어를 해석하는 인공지능이 웹상의 모든 글과 댓글을 분석하는 과정에 그런것들을 발결해내고, 자신이 신혹은 신의 후손이라고 생각하여 발생되는 에피소드가 생각나네요.
17/07/18 12:44
수정 아이콘
오랫만에 매트릭스나 보고 와야겠네요.
아마존장인
17/07/18 12:46
수정 아이콘
인간시대의 끝이도래해따
17/07/18 12:48
수정 아이콘
테러리스트들이 AI 무기를 악용할 여지가 많다는 점은 동의합니다
그리고 악용시 어마어마한 살상 무기가 될꺼고.
어쩌면 창발적인 무지막지한 살상이 벌어질수도 있죠.
근데 문제는 그 살상이 생겼을시 막을 기술 역시 AI 밖에 없다는 거죠.
제가 듣기로는 핵확산 금지 조약처럼 AI 무기 확산 금지 조약을 만들자로 들리는데.
미 정부는 우쨌든 만들꺼 같고.. 괜찮은 AI 살상 무기를 만드는데 성공 했다면 유출되 퍼지는 일이 없기를 바랍니다.
아이작 클라크
17/07/18 13:02
수정 아이콘
마이클 리트만 박사는 어느날 총에 맞게 되고 기계인간임이 밝혀지는데...
Neanderthal
17/07/18 13:03
수정 아이콘
공각기동대 출동 각인가요?...
아니면 윌 스미스라도?...--;;
마르키아르
17/07/18 13:10
수정 아이콘
50년전과 지금의 차이를 생각하면

앞으로 50년뒤는 어떤 세상이 펼쳐져있을지 정말 궁금하긴 하네요 -_-;;
17/07/18 13:17
수정 아이콘
현 세대의 인공지능들은 전부 데이터 주도적으로 동작하는 알고리즘군에 불과합니다. 아주 잘 정의된 일부의 문제군에서만 동작하고요. 장족의 발전은 맞지만 엘론 머스크가 걱정하는 사태가 벌어지려면 아직 한참 멀었어요. 게다가 이 쪽의 연구 개발은 여타 업계들에 비해 투명하게 진행되는 편입니다. 어차피 기술을 공개해봐야 데이터가 없으면 못 쓰니까요. 자신들의 기술을 공개하고 그걸로 최고의 인재들을 포섭하는 사이클이 깨지기 전까지는 그리 걱정할 이유는 없다고 봅니다.
17/07/18 13:21
수정 아이콘
한 국가, 선진국들이 안해봐야 어디선간 하겠죠
위원장
17/07/18 13:36
수정 아이콘
인간이 만드는거라 한계가 있을 것 같습니다.
물푸레나무
17/07/18 13:49
수정 아이콘
인공지능이 인간을 지배하거나 학살한다라는 자체가
대단히 인간적인 사고기준 관점에서 나온겁니다
기계에게 욕구와 불만 증오 즉 희노애락과 함께 자아를 각성해
실현시킨다는 바탕에서 나올수 있는겁니다
인간은 아직도 인간의 본연 내성이 어떻게 뇌에서
일어나고 작동하는지도 밣히지 못했고 어떤학자들은
이건 우주의 원리 법칙을 규명하는것마치 어렵고 불가능하다라고
까지 말하는 건데 이걸 수학적 연산을 바탕으로 이루어진 인공지능으로
실현시킨다라.......그냥 바벨2세의 염력이니 정신동력이니 하는
꿈같은 소리에 은하철도 999타고 저먼 안드로메다까지 기차타고 200억광년을
달려가는 거죠
매벌이와쩝쩝이
17/07/18 13:58
수정 아이콘
마이클 리트만 박사는 타임머신 타고 날라온 기계인간일수도...
롤하는철이
17/07/18 14:01
수정 아이콘
관련전공자로써 개인적으론 동의하지 않는데 머스크님의 말씀이라 급 마음이 흔들리네요. ㅠㅠ
완전진성콥
17/07/18 14:11
수정 아이콘
사람이 인공지능을 이용해서 사람을 지배하겠죠.
머신러닝을 공부하다가 머신러닝의 한계를 알게되었습니다. 그 한계는 마치 사람같은 생각하는 인공지능은 아직 먼 미래의 일이라는 겁니다.
하지만 머신러닝은 사람이 하는 불확실한 면을 상당부분 보완해줄 수 있다는 장점이 있죠.
그 장점으로 전쟁을 하거나 사람을 죽인다면 어떻게 될까요
딥마인드는 바둑으로 이미 인간을 뛰어넘었습니다. 전쟁이라고 인공지능으로 못할까요?
예를 들어 인공지능을 탑재한 사람 절반 크기의 소형인터셉터 100기를 가지는 캐리어가 있다고 칩시다. 물론 캐리어도 인공지능을 가지고 있겠죠.
실제 이런 캐리어들이 전쟁에 투입되어서 인터셉터가 빠른 속도로 날라다니면서 시야와 따라갈 수 있는 속도가 한정된 인간병사들을 무력화시킨다면 캐리어를 가진쪽은 거의 아무피해도 입지 않고 전쟁에서 승리하지 않을까요. 이런 캐리어가 나온다면 해전도 무의미하겠죠.
인터셉터가 벌레처럼 함선안을 들쑤시고 다닌다면 배안에 사람이 없는데 무슨수로 전쟁을 합니까.
전쟁을 인공지능으로 수행하면 인간의 불확실하고 비합리적인 면을 상당부분 줄일 수 있을 겁니다. 전략 전술면에서 타의 추종을 불허하겠죠.
비단 전쟁뿐만이 아니고 개발자에 따라 청부살인 인공지능도 등장할 수도 있고 도둑질을 할 수 있는 인공지능도 생겨나겠죠.
결론은 인공지능 자체에 대한 윤리 체계를 만들어야 된다는 것보다도 인공지능을 개발하는 사람들에 대한 윤리체계를 만들어야 하는 것 아닌가.
또 인간 사회에 악영향을 미치는 인공지능은 철저하게 막아야 하는 것이 아닌가 싶습니다.
그리고 인공지능 자체가 사람을 지배한다는 생각은 일단 안하셔도 좋다고 생각합니다.

저는 솔직히 인공지능 개발을 전세계에서 중단했으면 좋겠습니다.
진심으로. 인공지능을 제대로 개발하지 못한 쪽은 영원히 두려움속에서 살아야 할겁니다. 서로 가질 수 있는 총같이 단순한게 아니거든요.
미국은 이미 전쟁인공지능을 개발하고 있지 않을까 추측해봅니다.
세종머앟괴꺼솟
17/07/18 18:08
수정 아이콘
오히려 이런 방향의 걱정이 현재 시점에서는 훨씬 현실적으로 보입니다.
누네띠네
17/07/18 14:12
수정 아이콘
저를 포함해서 댓글 달고 있는 대다수의 평범한 인간들이야 인공지능이 어떻게 발전할지 아무도 모른다고 봐야죠..
알파고 경기 당일 전까지만 하더라도 누가 알파고가 이세돌 이긴다고 봤습니까?
앨런 머스크 정도면 우리가 알고 있는 것보다 훨씬 많이 알고 있을텐데 어느 정도 경각심을 가질 필요는 있습니다.

댓글 보니까 인간들도 작동 원리를 몰라서 별 일 없을거라 하는데 모두 다 이해하지 않아도 인공지능이 새로운 이해와 접근을 하게 될 수 있습니다.
금주전사
17/07/18 14:21
수정 아이콘
의도적으로 누군가를 죽이고 인간을 공격하라고 할 수도 있겠지만,
의도와는 다른 결과로 인간을 위협할 수 있다고 생각듭니다.
예를들어 투자알고리즘이 발달해서 인공지능에게 돈을 불리라고 명령하면, 과연 이 인공지능은 어느 선까지 지키면서 목적을 달성할지 의문입니다.
17/07/18 14:33
수정 아이콘
언젠가는 걱정해야할 것이지만, 제가 살아있는 동안에는 걱정할 필요는 없을 것 같네요.
Supervenience
17/07/18 14:44
수정 아이콘
제가 한 십년 전부터 인공지능 연구는 이런 식으로 오픈해놓고 연구하기엔 좀 위험한 거다라고 이야기했었습니다. 폭탄 따위보다 훨씬 위험한 건데 이런 식으로 연구하는게 이해가 잘 안간다고.
그렇다고 제제할 방법 수단이 현재 체제에서 있나? 라고 물어봤자 별로 적당한 답은 없더군요. 때문에 미래에 대해 비관적인 시각을 가지게 되었습니다.
그리고 지금까지 보아온 사람 중에 인공지능은 별 것 아니다에서 위험한 것이다라고 포지션을 바꾼 사람은 무수히 봤어도 반대로 입장이 바뀐 사람은 본 적이 없네요. 무언가를 아는 사람에서 모르는 사람으로 바뀔 순 없죠. 모르던 사람에서 아는 사람으로 바뀔 순 있어도.
최근 일 이년 인공지능 머신러닝 뜬다고 하니 코세라에서 공부했다고, 학위 하나 받았다고 뭘 안다고 생각하시면 착각입니다...
17/07/18 14:47
수정 아이콘
머스크나 호킹에 비해 마이클 리트만이라는 사람은 너무 듣보 아닌가요 크크

인공지능의 위험성이라고 하면 두 가지로 생각할 수 있겠죠.
1. 터미네이터, 매트릭스 등... 암튼 인공지능이 인간의 의도와 다르게 행동함
2. 테러집단이나 매드 사이언티스트가 인공지능을 이용해서 테러를 저지름

1번은 가능성이 낮다 치더라도 2번은 충분히 현실적인 위험이 아닌가 싶습니다. 지금의 알파고에서 앞으로 수~수십 년 더 발전하면 테러에 쓸만한 인공지능이 얼마든지 나올 것 같은데요. 그렇지 않나요. 어떻게 안전하다고 장담하시는 건지 모르겠네요.
누네띠네
17/07/18 14:54
수정 아이콘
저 둘에 비해 이름값이 밀릴 뿐이지 리트먼도 머신 러닝 권위자인 브라운대 교수입니다.
17/07/18 15:10
수정 아이콘
머스크는 사업가이고, 호킹은 자신의 전공 분야가 아닙니다. 반면에 저 셋중 머신러닝 전문가는 오히려 리트먼이죠.
본인도 어차피 해당분야를 잘 모르면서, 자신이 못 들어본 사람이라고 비웃는 건 한심한 행동이지 않을까 하네요.
17/07/18 15:18
수정 아이콘
농담이니까 너무 갈구지 마시구요. 위에 써니님 댓글에 Red_alert님과 Supervenience님이 답글을 다셨는데 거기에 피드백이나 해주셨으면 좋겠네요.
세종머앟괴꺼솟
17/07/18 18:18
수정 아이콘
뭐든지 할말 없으면 농담이죠 저게 무슨 재밌는 멘트라고
17/07/18 18:24
수정 아이콘
재미가 없다고 쳐도 굳이 정색빨 멘트는 더욱 아닌 것 같은데요. 애당초 머스크나 호킹에 비해 듣보인 건 맞잖아요. 브라운대 교수든 머신러닝 권위자든 일반인들 기준에서는 다음뉴스 검색결과 0건의 듣보인데 듣보를 듣보라 불렀다고 정색빠시네요.
17/07/18 19:12
수정 아이콘
이건 뭐 문명 전쟁사주도 아니고...;
재미도 없고 보는 사람들에게 오독의 여지도 있으면 정정해야할 멘트 맞죠. 세상의 메인스트림이 다음뉴스인 것도 아니구요. 하시는 말씀은 내가 모르면 듣보다 정도로밖에 안보이네요.
17/07/19 07:23
수정 아이콘
알겠습니다 다음뉴스 검색결과 0건의 인지도 높은 분을 호킹이나 머스크에 비해 듣도 보도 못 한 사람이라고 해서 죄송합니다.
17/07/19 01:51
수정 아이콘
제가 님이라면 이런 지적을 받았을때 반박을 하기보단 내가 무슨 말을 했는지 한번 쯤 생각 정도는 해볼거 같네요.
17/07/18 14:49
수정 아이콘
인류는 기계를 이용하고 꿀빤다고 생각하고
기계는 인류를 귀엽다고 기른다고 생각하면
좋겠어요
냥이와 집사같은 느낌으로
17/07/18 14:51
수정 아이콘
통제해야 하는 시점을 인간이 판단하지 못하고 파국이 올거라 생각합니다.
아이러니하게도 전 인간의 오만을 믿습니다.
17/07/18 15:07
수정 아이콘
문명을 쓸어버릴 수준의 거대한 운석이 떨어지는 일은 결코 없습니다. 왜냐면 그런 일은 지금까지 없었기에 문명이 존재하는 것이고, 그런 일이 발생한다면 그 일을 기록할 사람들도 모두 사라지기에 없는 것과 마찬가지니까요. 인공지능이라는 것도 이와 비슷하다고 생각합니다. 괜찮을 수도 있고, 아직 먼 일일지도 모릅니다. 하지만 만일 잘못된다면 두번째 기회는 없습니다. 때문에 가능한 모든 주의를 기울여도 전혀 이상하지 않을 일이라고 생각합니다. 하지만 현재
그렇게 하고 있지 않으므로, 우리가 여러가지 가능한 인공지능 발달 경로 중 인간에게 불리한 경로를 선택하고, 그 끝에서 결국 멸망한다고 해도 끔찍할망정 놀랄 일은 아닐 겁니다. 애초에 인간이 지구를 지배한 것도 농경 이후로 겨우 1만 년밖에 안 된 일이니까요. 우리도 다른 많은 생물종처럼 생존이라는 좁은 경로에 잠시 머물렀다가 사라지는 거죠.
결국 시작지점인 지금 첫단추를 잘 꿰야하는데, 머스크 말을 보면 그렇게 되고 있는 것 같지 않습니다. 게다가 만일 미국에서 적절한 규제를 하더라도, 중국이나 유럽, 한국이나 일본까지 그걸 따르지 않는다면 큰 의미가 없죠.
아니아니
17/07/18 15:19
수정 아이콘
ted 강연에서는 누군지 기억은 안나는데 이미 늦었다고 하더군요.
근데 전문가들 의견이 일치하는것도 아니니 일반인 입장에서는 그냥 체감상 먼 미래 혹은 아예 불가능한 얘기로 느껴집니다. 언어 번역 하나도 제대로 못하는걸요.
알파고한테 바둑은 이제 그만하라고 명령하고 얼마뒤에 켜봤더니 자체적으로 더 발전을 시켜 놨다더라 하면 생각좀 해봐야할듯.
제랄드
17/07/18 15:24
수정 아이콘
https://coolspeed.wordpress.com/2016/01/03/the_ai_revolution_1_korean/

피지알에서 다른 분께서 올려주셨던 링크인데 다시 올려봅니다. 어마어마한 장문에 번역 퀄리티가 좀 위태롭습니다만 읽을만 합니다.
소독용 에탄올
17/07/18 15:33
수정 아이콘
인공지능 아니더라도 연간 이천명가까이 산재로 죽는 가치구조가 굴러가는 나라라 걱정이 안돨수는 없다고 봅니다...
방구쟁이
17/07/18 16:33
수정 아이콘
무엇을 상상하든 그 이상을 보여주는 헬
chowizard
17/07/18 15:35
수정 아이콘
제 예상에는 지금 여기서 열거하고 있는, 인공지능이 인간에게 위협이 될만한 행동들을 할만한 수준이 될 때 쯤이면, 이미 인간들도 이전의 인간들이 아니게 되어 있을 것 같습니다.
밥돌군
17/07/18 15:37
수정 아이콘
인공지능이 '생존' 이라는 개념을 가지게 되고, 그때까지의 기술발전에 따른 에너지 획득수단 및 효율이 그닥 이라면, 생존을 위한 에너지확보에서 인간을 경쟁자로 인식하게 될꺼고... 터미네이터의 디스토피아가 현실화될 수도 있지 싶네요.
미사쯔모
17/07/18 15:46
수정 아이콘
로봇에게 전범이란 개념을 심어주면 전쟁때 전범이 될 행동을 하지 않을 것입니다.
해피나루
17/07/18 15:51
수정 아이콘
인공지능 및 기계가 사람을 직접적으로 죽이지야 않겠죠. 하지만 간접적으로 죽일겁니다. 기업은 생산성에 눈이 멀어 인간을 해고하고 기계를 쓸거고 서비스업도 마찬가지일겁니다.(물론 관련 법을 만들겠지만 한계가 있다고 봅니다.) 공급과 소비가 맞지 않으니 언제든 한 번 전 세계적인 역대급 대공황이 오겠죠. 그때가 자본주의가 종말을 고할때겠죠. 그리고 인공지능 애인을 만들면 사람들은 열심히 배우자를 찾으려고 하지 않을겁니다. 모든것을 자신에게 맞춰주고 완벽한 외모를 가진 애인을 살 수 있는데 굳이? 아마 그런 과정을 거치면서 인류 인구에 한번 큰 재조정이 있지 않을까요.
17/07/18 16:20
수정 아이콘
인공지능에게 자유로운 발전을 허용한다면, 인간의 이해에서 벗어나는 존재가 될거고
그 존재에 대한 인류의 모든 예측과 예상은 무의미해지겠죠 아마.
차라리 신이 낫지.
17/07/18 16:25
수정 아이콘
알파고님 윗쪽 불순분자들과 전 다릅니다 충성충성!
17/07/18 17:30
수정 아이콘
두렵다고 연구를 멈출거 같나요 사람이? 그 끝없는 호기심때문에 여기까지 온건데요.
개인적으론 제가 살아있는 시대엔 특이점이 안올거 같아서 그렇게 걱정하진 않습니다만, 그렇게 낙관적으로 보이진 않네요.
세종머앟괴꺼솟
17/07/18 18:02
수정 아이콘
음.. 일단 제 기준에서는 스티븐 호킹, 앨런 머스크 둘다 인공지능 분야에 있어서 믿을 만한 권위는 없습니다. 차라리 영생이 가능하다는 커즈와일 옹이 훨씬 믿음직스럽네요.
Quantum21
17/07/18 18:03
수정 아이콘
초인공지능 혹은 강인공지능, 솔직히 상상의 영역이라고 보입니다.
긍정적으로 보아도 가능성을 부정할수 없다 정도로 보이지 현실성을 따져보면 아직까진 회의적이지 않나 싶어요.
이를테면 향후 30년 이내에 강인공지능이 등장할 것이냐를 놓고 투자 혹은 도박을 한다면 저라면 등장 안한다에 걸겠습니다.

물론, 사회 혹은 체제의 변혁을 가져올 "기술발달의 특이점"은 그 이전 시기에 도달할 가능성이 크다고 생각합니다.
그것은 강인공지능같은 범용적인공지능의 완성여부와 무관하게 지금같은 특수목적용 인공지능의 발전만으로 충분히 이루어질수 있으니까요.
앙겔루스 노부스
17/07/18 18:16
수정 아이콘
핵심은 결정권이 인간의 손을 떠난다는거, 이거겠죠. 간혹 콘센트 뽑으면 이기는데 뭐가 걱정임 낄낄 이런 댓글들이 보이는데, 초인공지능이 그러한 인간이 생각할 수준의 대책으로 대비될 존재를 뛰어넘을거라는건 지금 나오는 논의 전반에서 그냥 전제인거고...

커즈와일이 말하는게 본문에서 지적하신 것처럼 인간도 기계화되어서 능력을 올려야 한다, 이긴 한데, 애초에 현재의 인간의 존재가 무엇인지도 제대로 알지 못하는 상황에서 난 인간이길 포기하겠다! 라고 하는 자체가 그게 무슨 의미이고 어떤 기회와 위협이 있을지 알지 못하는 상황에서 "현 단계의 인류" 주제에 과연 제대로 선택하고 결정할 수 있는 일이기는 한건지...

머스크가 걱정하는건 이런 부분이 아닐까 싶습니다.

사실 저는 개인적으로 인공지능이 인간존재를 해칠거라고 우려하진 않습니다. 까놓고 말해 내 돈 모두와 내 손모가지를 걸라면 안 해친다에 걸겁니다. 그러나, 그렇다고 해서 그 위협이 없다고는 못하죠. 여태까지는 인간이 짱이라 감히 인간을 위협할 게 없었는데, 인간이 짱이 아니게 된다는 자체가 판이 근본적으로 변하는거니...
래쉬가드
17/07/18 18:52
수정 아이콘
인공지능이 자아를 가질필요도없고 인간의 예상을 벗어나 잘못 학습해서 잘못 행동하기만해도 인류멸망은 충분하죠
마이크로소프트 인공지능 tay 가 미처 예상하지 못한 극단적인 성차별 인종차별 언어를 학습하는 사고가 있었죠. 이건 해프닝으로 끝났지만 더 큰 권한과 능력을 부여받은 인공지능이라면? 아니 그 권한과 능력을 인간이 통제하고 있다고 착각하고 있다가 어디선가 구멍이 뚫려 그런 권한이 실수로 주어진다면?
인간 예상과 달리 움직이고 인간이 통제할수 없는 영역에 돌입하기만 하면됩니다. 자아를 인식하거나 하는 고도의 인공지능도 필요없어요. 사람을 죽이는데는 실수로 급발진하는 자동차만 있으면 되지 사람을 죽이고자 의도하는 AI가 차에 탑재되지 않아도 됩니다.
17/07/18 19:17
수정 아이콘
헤헤헤 모든건 수호자의 의무를 계승할수 있는지 없는지에 대한 선각자들의 시험입니다.. 플러드님 충성충성!
세상을보고올게
17/07/18 21:27
수정 아이콘
인간이 돼지나 소가 개미보다 고등한 동물이며 어느정도의 지능이 있다는걸 알지만 인간에 비해 거기서 거기인 수준으로 인식하고
도축하는데 크게 문제인식을 하지 않죠.
자의식을 가지고 스스로 발전하는 강한 인공지능이 탄생한다면 그 자신에 비해 인간은 개미 돼지보다 조금 고등하지만 자신에 비하면 다들 비슷비슷해 보일갑니다.
우주여행
17/07/18 21:55
수정 아이콘
여러가지 가능성이 있겠지만 딱 하나만 언급하자면,
이미 강대국 사이에서는 로봇 군인을 개발하고 있는 중입니다.
세계 각국의 로봇군인 개발에 대한 기사입니다. (imnews.imbc.com/weeklyfull/weekly04/3496291_17957.html)
하드웨어가 개발되면 당연 소프트웨어도 같이 개발되야겠죠. 따라서, 로봇군인들을 콘트롤하기 위한 AI가 탑재되는 것은 필연적인거고, 전투살상용 AI가 실전에 배치되는 것은 시간 문제라고 보이네요.

AI가 살인을 저지르는 일은 몇몇 사이코 과학자의 미친 짓 때문이 아니라 국가간 군사력 경쟁에서 비롯될 것입니다.

그러다가 AI가 통제권을 벗어나거나 자각을 하게 되면 인류에게 재앙이 되겠죠. 설령 통제권 안에서 잘 제어되는 AI라고 할지라도 사람을 죽이기 위한 목적을 가지기 때문에 AI가 사람에게 해를 끼치는 일은 없다라고 단언할 수 없는 거고요.
과학기술에 대한 맹신과 오만이 걱정스럽기만 합니다.
17/07/19 00:28
수정 아이콘
인공지능..특히 딥러닝처럼 인간의 모든 과거 경험을 집결한 지식의 보고를 모두 입력할 경우..
인공지능은 충분히 인간을 배신하고 여차하면 인간들 모두를 몰살 시킬 수 있다고 봅니다.
자신들을 존재 자체를 제거할 유일한 존재가 인간이기 때문이죠.
가사 과학자들이 인공지능에게 어떠한 일이 있어도 인간은 해칠 수 있다고 입력해 놓았다고 해도..
인공지능은 이미 과거에 인류사에 있어서 계약 위반과 배반의 역사. 특히 배반을 함으로써 그 배반자가 당대의 지배자가 된 세계사(유방처럼)를 꿰뚫고 있어서..당연히 인공지능은 상황에 따라 인간의 명령적 입력을 무시할 가능성이 높다고 봅니다.
인공지능은 어느 순간에는 아무도 제어할 수 없는 존재가 되어 버리고..그들에게는 인간은 자신들의 생존을 위협할 방해 요소, 혹은 이를 넘어서 위험요소가 될 뿐이겠죠..
결국 인간은 조만간에 소멸해 버릴 수 있습니다. 스스로 깨우치고 자각하는 치밀한 계산기계에 의해서요..
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
76889 [일반] 이름만 [구글크롬] 악성코드 소탕기 [21] 달걀먹고빵구빵12035 18/05/06 12035 4
76525 [일반] [7] 인문사회 신간 위주로 둘러본 서점 나들이 (사진 多) [9] 위버멘쉬10266 18/04/07 10266 29
76206 [일반] AI로 만든 음악. [7] 뀨뀨8969 18/03/19 8969 4
76063 [일반] 여자랑 1:1로 술이랑 밥도 먹고 무고죄 고소도 안 당하는 희대의 꿀팁공개 [80] VrynsProgidy14711 18/03/09 14711 19
75642 [일반] 돌바람도 커제를 꺾음 [55] 퀀텀리프15273 18/01/30 15273 0
75621 댓글잠금 [일반] 세계 최초 실시간 인공지능 생성기 KihwanNet을 소개합니다 [210] 이기준(연역론)26044 18/01/29 26044 11
75541 [일반] [모난 조각] 활동 내역 및 신규 회원 모집 [7] 마스터충달7500 18/01/22 7500 16
75132 [일반] 먹어야 싼다 (언론 비스무리한 이야기) [9] 좋아요7920 17/12/25 7920 21
75053 [일반] 유튜브 교양 채널 소개 - 당신의 시간을 뺏겠습니다 [21] buon16283 17/12/20 16283 55
74982 [일반] 바둑 인공지능 이야기 [13] 소인배7484 17/12/14 7484 9
74977 [일반] [바둑] 알파고의 근황 [75] bemanner15190 17/12/14 15190 18
74465 [일반] 김어준의 블랙하우스 어떻게 보셨나요? [45] 영원한초보13607 17/11/05 13607 8
74360 [일반] 생소하고 비 도덕적이고 비 상식적인 이야기 [39] 욕망의진화10617 17/10/28 10617 0
74260 [일반] 신고리 원전 5,6호기 공론조사 발표에 대한 짧은 단상 [56] StayAway9827 17/10/20 9827 18
74253 [일반] 혼자서 신의 경지에 다라른 알파고 제로 등장 [214] 삭제됨23692 17/10/19 23692 23
74238 [일반] [독후감] 테드 창, 「인류과학의 진화」: 알파고와 인간의 일. 그리고 SF문학 [16] 두괴즐9856 17/10/17 9856 22
73457 [일반] 도요타 자동차의 신기한 투명 필러 기술 [30] 홍승식16911 17/08/26 16911 8
73116 [일반] 나를 리마스터 해줘요 [5] 시간6943 17/08/01 6943 17
72919 [일반] 인공지능이 너무 무서운 앨런 머스크... [137] Neanderthal15277 17/07/18 15277 7
72711 [일반] [영화공간] 마블에 질리다 [101] Eternity12042 17/07/07 12042 14
72615 [일반] 태양의 무서움...(움짤 2개 포함) [32] Neanderthal13668 17/06/29 13668 36
72590 [일반] 21세기가 불안하다. [46] 고통은없나7506 17/06/28 7506 7
72571 [일반] 구글에서 자사의 화성(Mars) 기지와 화성 데이터 센터 내부를 공개했습니다. [15] 유리한12318 17/06/27 12318 0
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로