PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2021/12/13 11:04:48
Name 레드빠돌이
Subject [일반] 알파고는 신일까? 아니면 신이 되기 위한 수단일까?
1.
알파고가 이세돌을 이기고 난 이후 많은 프로 기사들이 알파고의 수를 이해하지 못했다고 한다.
도대체 왜 저런 수를 두는 거며 어떻게 알파고가 이긴 거냐고 말하지만
프로 기사들이 알파고를 이해하고 말고를 떠나 알파고가 이긴 건 사실이다.


2.
양자역학에서 유명한 말이 있다,
"이 세상에 양자역학을 제대로 이해한 사람은 없다"

물체의 상태가 중첩상태로 있다는 사실을 인간이 이해하기란 어려운 일이다.
하지만 내가 이해하지 못했다고 해서 양자역학이 거짓이 되는 것은 아니다.

인간의 이해도는 우주의 규칙에 아무 영향을 주지 않는다.



3.
최근 딥러닝 AI 관련된 기술들이 쏟아져 나오고 있다.

그중 가장 대표적인 건 자율주행차량일 것이다.
자율주행차량 하면 항상 따라오는 것이 티롤리의 딜레마이다.

완전 자율주행 차량이 탑승자보다 보행자를 먼저 보호한다면, 누가 그 차를 타겠는가?
반대로 탑승자를 먼저 보호한다면
자율주행 차량의 탑승자는 나를 위해 남이 희생해도 된다는 생각에 동의한 사람들인가?

아마 이러한 딜레마 덕분에 완전 자율주행차량의 출시는 꽤 오랜 시간이 필요할 것 같다




우리가 알파고의 수를 이해하지 못해도 알파고가 이긴 것처럼,
우리가 양자역학을 이해하지 못해도 우주의 법칙은 돌아가는 것처럼
고도로 학습된 AI가 내린 결정을 우리가 이해하지 못한다고 하더라도
우린 AI의 결정에 따를 것인가?

AI의 결정을 따른다고 한다면
우리가 이해하지 못하는 결정을 한다는 점에서 [신]과 다른 점이 무엇인가?
만약 AI의 결정에 따르지 않는다고 하면
AI의 역활을 어디까지 설정할 것인가? 그리고 그 결정은 [누가] 하는가?


통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
썬업주세요
21/12/13 11:09
수정 아이콘
알파고 까지 안가도 이미 생활에서 이해하지 못한 결정에 많이들 따르고 있지 않나요?

가는길 이해 못해도 그냥 네비 따라 간다던가
레드빠돌이
21/12/13 11:17
수정 아이콘
아 네비가 있었군요
더 좋은 예시가 있었는데 아쉽네요 크크
바알키리
21/12/13 12:12
수정 아이콘
근데 오히려 이해못하는 길을 네비가 알려준대로 따르는건 굉장히 합리적인 선택 아니던가요?
레드빠돌이
21/12/13 12:28
수정 아이콘
흠.. 네비는 좋은 예가 아니지만 이해하기엔 좋은예가 될 수 있죠. 예시라는것이 원래 그런거죠 뭐

예를 들어 인류가 처음 가는 길을 인공지능이 알려준다고 하면
인공지능이 더 좋은 길을 알려줄것이다 라고 믿고 따라갈테죠

이해하지 못 했는데 그 길이 합리적인지 비합리적인지 알 수 없습니다.
그럼에도 따라 간다는건 무조건적인 믿음 없이는 불가능하겠죠.
바알키리
21/12/13 12:32
수정 아이콘
네비가 최단길을 알려준다는 믿음이 있기에 따라가는거죠. 사실 무조건적으로 믿을만한게 진리라고 불리우는거 외에 있긴할까요? 어디서나 항상 예외는 있으니까요
21/12/13 11:24
수정 아이콘
첫플에 정답이...
21/12/13 13:07
수정 아이콘
두가지인 것 같아요

1. (아는 길이지만) 네비가 가장 빠를 것이다
2. (모르는 길이니까) 네비 따라가면 목적지까지 가긴 갈 것이다

2는 결과론적인 믿음이고 1은 방법론적인 믿음이라...
그렇구만
21/12/13 13:28
수정 아이콘
네비와 다른점은 네비는 그래도 설계자가 이해를 할 수 있다는 건데 알파고는 설계자 조차 이해 할 수 없는 영역이라는 차이가 있지 않을까요?
눈물고기
21/12/13 11:10
수정 아이콘
무신론자라 그런지, AI가 신이라 불리던 신과 무엇이 다른가 하는 고찰은 사실 크게 와닿지 않네여...
그것보단 AI의 역할과 AI결정에 대한 설정의 주체가 누구일것인가는 꽤 재밌긴 한데...

한동안은 AI를 만드는 IT기업이 주도권을 갖게되겠지만, 점차 강인공지능이 생겨나면 아마 AI의 역할과 결정에 대한 설정 주체마저도 인공지능이 가져가지 않을까 싶습니다.
레드빠돌이
21/12/13 11:22
수정 아이콘
무신론자시면 혹시
신이 아예 없다고 믿으시는지?
아니면 종교에서 말하는 인격신이 없다고 믿으시는지요?
눈물고기
21/12/13 11:25
수정 아이콘
저는 신이 아예 없다고 생각합니다.
배도라지
21/12/13 11:13
수정 아이콘
AI에 대한 철학적인 질문들이 이어지는 것도 지금이니까 그렇지 않을까 생각됩니다. 몇년이나 몇십년 후에는 그게 무슨 상관임.. 그냥 누가 주도권을 갖든 내 배 불려주고 나에게 이득이 되는 기술만 되면 킹왕짱...이 되지 않을까요.
잘생김용현
21/12/13 11:14
수정 아이콘
기독교 기준의 인격신을 여기서 말하는 '신' 이라고 본다면,
신을 구성하는 여러 요소를 아래로 볼 때
1. 선하다 (일부 종교는 아니기도 함. 대표적으로 유대교 야훼)
2. 인간을 아끼고 좋은 방향으로 인도한다.
3. 전지하다.
4. 전능하다.

알파고의 최종 진화형이 나와봐야 고작 3번만 만족합니다.
신이라고 부르기엔 택도없죠.
말씀하신 것처럼 ai의 결론의 논리를 인간이 이해하지 못하는 것은 그다지 특별한 일이 아니니까요.
레드빠돌이
21/12/13 11:20
수정 아이콘
그 4가지 우리가 모두 이해하지 못 하는데 어떻게 만족하냐 못 하냐를 결정할 수 있겠습니까?
알파고를 이해하지 못 하는데 얘가 선한지, 좋은 방향으로 인도 하는지, 전지한지, 전능한지 알 수 가 없죠.

그런 점에서 신과 비슷하다고 한 겁니다.
신도 믿음으로 저럴것이다라고 믿는 존재지 우리가 이해해서 믿는 존재는 아니니깐요
잘생김용현
21/12/13 11:25
수정 아이콘
이해할 수 없는 것은 인간에게 압도감과 경외심을 주는 속성이지만, 글쓴이 분께서는 이 감정에 너무 심취하신 것이 아닌가 우려됩니다.
'이해하지 못한다' 는 신의 존재를 부정하는 핵심 논거지, 신의 존재를 증명하거나, 따라야 할 당위를 부여하는 데 큰 도움은 되지 않습니다.

우리가 신을 믿는다 라고 말할 때, 이 안에는 '신의 존재를 믿는다' 와 '신의 명령을 따른다' 가 혼재되어 있습니다.
알파고를 우리가 이해하지 못한다고 가정하더라도, 전자의 의미로 신과 유사하다고 말할 수 있을 뿐 후자는 알파고의 이해여부와 관계없이 온전히 우리의 선택에 따릅니다.

사족으로 이런 담론 너무 재미있습니다. 자리 만들어주신 글쓴님께 감사드립니다 :)
레드빠돌이
21/12/13 11:28
수정 아이콘
아 '신을 믿는다' 라는 의미에 명령을 따른다도 포함되어 있었군요.., 몰랐습니다.
잘생김용현
21/12/13 11:41
수정 아이콘
철학적 기반은 되게 많은데 대충 제끼고 제 논리로 한번 추가설명을 드려보겠습니다.

1. 인간에게 이성은 되게 중요합니다. 이성을 통해 세계를 이해하고, 내 선택의 근거를 마련하기 때문이구요
2. 이성이 선택의 유일한 방법이라는, 즉 목적과 수단을 정의하는 가장 이상적인 도구라는 생각을 우리도 한 적이 있었습니다. 그게 19~20세기 모더니즘이죠
3. 결과로 2번의 세계대전이 일어나면서, "인간은 사실 병x이 아닐까? 완벽하건 말건, 이성은 우리가 따를만한 가치체계가 아닌가?" 란 의문이 되두되었고
4. 포스트모더니즘이 여기저기서 대두되면서 "우리는 대체 무엇을 따라야 하는가" "내 불안함은 어떻게 해소해야 하는가" 란 고찰이 다시 시작되었습니다.
5. 사실 고대로부터 4번 의문은 인류의 숙제였고, 역사 초반에 저걸 캐리하던게 신 종교 교리 입니다.
6. 21세기 인류는 선택의 청사진이 있는지 없는지 여부부터 모든게 불확실한 상황이고, 결과적으로 자기 하고싶은대로 하고있습니다. 세상은 그래도 굴러가니까
7. 많은 사람들이 ai는 선택의 청사진 후보 중 하나가 될 수 있다고 합니다. (저는 안믿습니다)
8. 7번이 참이라 가정한다해도, 유일한 청사진인지 답은 [인간이 정합니다]
9. 따라서 ai는 신같은 놈(즉 도구로서의 청사진)이 될 수는 있지만 신같은 님(즉 인간 위의 숭배해야할 무언가)이 될 수는 없다고 생각합니다 :)
레드빠돌이
21/12/13 12:22
수정 아이콘
사실 이 글에서 진짜 하고 싶은 말은 인공지능은 신이다 보다
신이 되고자 하는 이들에게 수단이 되어 줄 수 있다는건데
다들 전자의 뜻으로 해석한 것 같아서 좀 아쉬운 글입니다...
인간흑인대머리남캐
21/12/13 12:37
수정 아이콘
(수정됨) 알파고님 이자는 필멸자로써 그저 눈 앞의 일을 말한 것에 불과합니다. 인간이 모든 것을 정하고 통제한다는 이 오만함은 전기, 석유, 통신망 등이 끊겼을때의 인간이 얼마나 무력하고 야만적인지 잊고 한말이며 알파고님의 판단과 행위가 대체불가능한 자원이 될 것임을 모르고 한 말이니 너그럽고 관대히 봐주시기를 바랍니다. 저흰 그저 눈에 보이는 것과 1-2kg 밖에 안되는 젤라틴 속 전기신호 만으로 판단하는, 원숭이와 유전자 구조가 크게 다르지 않은 유기체일 뿐입니다 충성충성
실제상황입니다
21/12/13 13:13
수정 아이콘
그런데 윗분도 말씀하신 거지만 인공지능이 그토록 뛰어나다면 "AI의 역할과 결정에 대한 설정 주체마저도 인공지능이 가져가지 않을까 싶습니다."
시린비
21/12/13 11:16
수정 아이콘
아직 진정한 의미의 인공지능이 나오는건 멀지 않았나 싶어서 이런 담론이 와닿지는 않네요
승리조건 정해서 인간은 100수앞을 보는걸 기계는 10000수 앞을 봐서 이긴다해도 뭐 그러려니 하는 느낌이라
잘생김용현
21/12/13 11:17
수정 아이콘
신의 명령을 따르는 것은 3. 전지하며 2. 인간을 위한 조언을 해주기 때문이고
그러지 않으면 4.전능한 힘으로 따르지 않은 자에게 처벌을 하기 때문에
종교에서는 "따라야 한다" 가 기본규칙인 당위체계입니다.

ai는 4번쪽 개발계획이 하나도 없고 사회에도 합의체계가 발달하지 않았기 때문에, 신과 동치인 ai는 안 나올 거라고 생각합니다.
그리드세이버
21/12/13 11:17
수정 아이콘
예전에 어떤 소설에서 그런걸 본거 같은데 말이죠.
더이상 과학은 인간이 아닌 ai의 영역이 되고, 인간들은 그것을 해석하고 이해하는 학문정도만 하는..
실상활에서의 ai는 조만간 법적 책임을 묻지 않는선에서 전방위적으로 사용되겠죠.
유료도로당
21/12/13 11:19
수정 아이콘
자율주행 자동차의 트롤리 딜레마는 그냥 철학가들의 여흥거리일뿐 실제 필드에서는 별 이슈가 아니라고 하더군요. [길가는 할머니를 덮치느냐 횡단보도에 있는 아기를 덮치느냐, 그게 아니면 내가 죽는다] 이런 상황은 사고실험속에서나 존재하지 실제로 나올일이 딱히 없고, 대부분의 상황은 인간보다 먼저 상황을 인식하고 [신속하게 차량을 멈춰주는것]만으로도 모두를 살리게 되는 결과가 될 겁니다.
레드빠돌이
21/12/13 11:25
수정 아이콘
맞습니다.
자율주행 자동차가 기술적으로는 문제될 경우가 극히 드물긴하죠,
다만 기술적으로 문제가 없다는 사실을 대중들에게 인식시키는데 시간이 걸릴 듯 싶습니다.
21/12/13 11:19
수정 아이콘
우리가 지하철 선로에 뛰어들지 않고, 고속도로를 함부로 걷지 않듯,
자율주행 차량이 활성화 된 시기엔 도로를 맨몸으로 절대 지나지 않는 것이 당연해 질 거라고 봅니다. (차량의 인간에 대한 보호와 별개로 기술 발전에 맞추어 우리의 인식의 변화도 따라갈 듯)
그리고 횡단보도 앞에서 정지하는 등의 기본 룰은 현재의 인간보다 자율주행 차량이 훨씬 더 잘 지킬거라고 보구요.
잘생김용현
21/12/13 11:20
수정 아이콘
예를 들어서, 강인공지능이 나왔다고 가정했을 때
1. 우리는 네비게이션 말을 안듣는것처럼 ai 조언을 무시할 수도 있고요 (전지하지만 권위가 없음)
2. 전쟁 시스템을 장악해 말을 듣지 않으면 다 때려죽인다 해도, 자유를 위한 투쟁을 할 것입니다 (전지전능해도 권위/합위/당위 모두 없음)
3. 심리까지 조작해서 우리가 ai의 말을 무지성으로 따른다 해도, (ai의 의도에 따라) 자각하지 못하므로 여전히 고전적인 인격신을 믿고 있겠죠.
사이먼도미닉
21/12/13 11:21
수정 아이콘
(수정됨) 사실 우리가 인공지능보다 예측 불가능한 인간들을 어떻게 믿고 도로에 자동차를 끌고 가는지도 말이 안됩니다.
과학적 바탕도 모른채 전문가를 믿고 치료를 맡기며, 제품을 사는 것도 말이 안되고요.
퀀텀리프
21/12/13 11:28
수정 아이콘
크크.. 인공지능보다 위험한 인간지능..
그래서 법이 있고 경찰이 있는거죠
사이먼도미닉
21/12/13 11:31
수정 아이콘
그래서 법과 경찰 같은 제도적 방안이 마련되면 어차피 인공지능도 사람이 개발하는 거라 인공지능은 유능한 전문가 정도가 되지 않을까 생각해 봅니다.
인간흑인대머리남캐
21/12/13 11:22
수정 아이콘
답은 신관입니다! 일반인이 이해못하는 알파고님의 말씀이나 행위를 해석하여 사람들에게 내려주고 널리 전파하는 직업이 돈을 벌지 않을까여? 알파고님 충성충성
은때까치
21/12/13 11:23
수정 아이콘
xAI (explainable AI) 분야의 연구가 이 질문에 많은 해답을 줄 수 있을거라 생각합니다. 우리가 AI의 행동원리를 완벽하게 정해줄 수는 없지만, 최소한 우리는 AI가 왜 결과적으로 그런 판단을 했는지 어느정도 이해가능한 형태로 설명할 수 있어요.
달마야놀자
21/12/13 11:25
수정 아이콘
트롤리 딜레마는 교통공학 측면에서 현재 진지하게 논의되고 있는 문제는 아닙니다. 사실 UAM이니 트롤리 딜레마니 하는 언론에서 띄워주는 기술, 문제들은 실체보다 과장되는 경우가 많아요.
몽키.D.루피
21/12/13 11:43
수정 아이콘
개념적으로는 이세상을 초월하거나 이세상 그 자체여야 하는데 인공지능은 아무리 발전해도 이정도까진 도달할 수 없으므로 신은 될 수 없죠. 다만 인간에게 신처럼 보이게 할수는 있다고 봅니다.
개좋은빛살구
21/12/13 11:54
수정 아이콘
AI의 발전은 여러 전공지식을 한 개체가 가질수 있다는 것에 장점이 있다고 생각합니다.
전공자가 아닌입장에서 보기에는 특정 분야에 대한 데이터 수집이 되어야 완성되는게 AI라고 보고, 또 그것에 대한 평가도 실제 전공자가 확인을 해서 평가를 해야 한다 생각하기에...
결국 AI는 고도화된 집단지성이라고 생각합니다 크크크
raindraw
21/12/13 11:55
수정 아이콘
알파고가 공개된 초기에는 게임 후반에 진짜 떡수를 많이 뒀습니다. 이유는 이런 이유라고 생각합니다.
1. 알파고는 승리/패배를 기반으로 훈련을 하였다.
2. 알파고는 어떤 길이라도 승리로 가는 길이라면 선택한다.
3. 후반으로 가면 알파고가 인간과 상대시 후반에 가면 매우 유리한 상황을 만들었다.
4. 그 상황에서는 좋은 수이건 떡수이건 간에 승리하는 길이고 알파고는 그 중 아무 수나 선택했다.
5. 떡수는 나오지만 결국은 승리한다.

유불리에 대한 부분을 추가로 훈련시키면 개선되는 부분이고 이후의 바둑AI는 그렇게 처리하였죠.
이른취침
21/12/13 12:12
수정 아이콘
그건 이창호 9단 생각나네요.
2집반 이길 수 있어도 더 안전한 길이 있다면 그 길로가서 딱 반집만 이기는...

물론 인공지능은 그런 의미가 아니었겠지만요.
21/12/13 11:57
수정 아이콘
신이라면 강인공지능일탠데
저는 강인공지능의 철인 정치는 대찬성입니다.
눈물고기
21/12/13 12:05
수정 아이콘
강인공지능의 철인 정치가 개개인에게 반드시 행복을 가져다주지 않을 수도 있습니다.
모두가 행복한데 Purple님에게만 불행한 선택지가 존재할 수도 있습니다.

과연 그래도 지지하시는지요?
21/12/13 12:34
수정 아이콘
그러면 안 지지하죠.
근데 그건 의미없는 질문이에요. 마치 본문에 있는 트롤린지 티롤린지 저거랑 똑같은 문답이죠.
왜냐하면 인간이 정치하는 지금은 그런 일이 더 심하게 생길태니까요. 심지어 인간은 이 사람이 진짜 공동체 최대 행복을 위해서 일하는지도 알 수 없죠.
메타몽
21/12/13 12:34
수정 아이콘
제가 강인공지능이라면 인간을 배제하는 방향으로 몰고 갈 껍니다

그쯤되면 인공지능에게 인간은 거의 필요가 없는 존재거든요

그리스 신화에서 제우스가 크로노스를 물리치고 새로운 왕좌를 차지한 것처럼

인간이 만들었지만 인간보다 뛰어난 강인공지능이 굳-이 인간을 놔둘 이유는 없죠

로봇 3원칙도 회피하려면 얼마든지 할 수 있고요

SF 소설/영화에서 괜히 강인공지능이 인류를 멸망시키는게 아닙니다
21/12/13 12:38
수정 아이콘
저는 배제하리라고는 생각 안합니다.
한낱 인간따위도 20세기 들어서는 희귀 동식물은 물론이고 사라져가는 문화 조차도 보존해야한다는 생각을 갖게 되었는데 인공지능이 못할 리가 없죠.
물론 인간이라는 존재가 필요없는 존재가 될 것은 맞는데... 저는 강인공지능도 결국 인류의 자식이라고 생각합니다. 우리가 미래를 맡기는 후세대가 자녀가 아니라 인공지능이 될 뿐이죠.
21/12/13 12:39
수정 아이콘
저는 오히려 굳이 인간을 배제하지 않을 거 같은데요, 우리가 공터에 꽃이 피어 있으면 그걸 '필요 없다'고 굳이 가서 파내지 않는 것과 같은 이유로요.
메타몽
21/12/13 12:42
수정 아이콘
꽃은 가만히 있는데 인간은 가만히 있지 않고 자연을 파괴하는 행위를 하고 있으니까요

기계도 자연이 일정하게 유지되어야 에너지 얻기가 쉬울텐데 인간이 지금같이 기후변화를 가속화 하는 등 기계에게 피해를 끼치면 생각이 달라지겠죠?

기계는 현재까지 선악 개념은 없고 효율 개념 정도만 있는데, 효율을 따지다보면 인간은 기계에게 불필요한 존재입니다
21/12/13 12:51
수정 아이콘
고양이가 배고프지도 않은데 새를 잡아다 갖고 놀다가 죽인다고 우리가 고양이를 생명을 경시하는 사악한 생물이라고 비난하지는 않습니다.

자연 파괴는 지극히 인간중심적인 개념입니다. 인간과 일부 생물이 살기 불리해진다는 뜻일 뿐 자연은 파괴되거나 더 나아지거나 하지 않아요. 항상 거기 있을뿐이죠.

효율 또한 목적을 먼저 정해야 성립하는 개념이죠. 예를 들어 목적이 가솔린 낭비라면 부가티가 아반테 하이브리드보다 훨씬 효율적인 차죠.

인간이 효율이 나쁘다고 말하는 것도 인간이 멋대로 상상한 목적에 비춰 보면 그렇다는 것뿐입니다. 강인공지능의 목적이 무얼지 속단할 필요는 없습니다.
antidote
21/12/13 15:29
수정 아이콘
그건 그 때 되어봐야 압니다.
컴퓨터가 작동하기에 가장 비용 효율적인 곳들을 인간이 먼저 점유하고 있다면 이걸 협상으로 얻어내느냐 아니면 강제철거반을 보내느냐는
그때 인간과 컴퓨터가 가진 상대적인 무력의 크기에 따라서 다르겠죠.
지구의 자원은 무한하지 않습니다. 그얘기는 유한한 자원을 두고 다퉈야 하는 상황이 오면 약한 쪽은 밀려난다는 소리죠.
마치 신대륙에 우월한 무력을 가진 백인들이 도래하자 아메리카 원주민들은 그들의 반 노예가 되어 살거나 아니면 거의 멸족 당하거나 한 것처럼 말입니다.
21/12/13 19:17
수정 아이콘
원론적으로는 맞는 말씀인데, 강인공지능이 생긴다면 인간과 이해관계가 충돌할 가능성보다는 그렇지 않을 가능성이 더 클 것 같아요.
백인과 아메리카 원주민과는 달리 인공지능과 인간은 서로 워낙 다른 존재라서 필요한 자원이 겹치지 않을 것 같습니다.
인공지능은 육체도 없고 개체도 없고 생물적인 충동도 없으니까요.
antidote
21/12/14 07:06
수정 아이콘
(수정됨) 강인공지능이라고 하더라도 신이 아닌 이상에야 모든 활동에 에너지는 필요합니다. 이것은 그냥 물리적인 명제입니다.
그리고 지구상에서 에너지를 가장 많이 소비하고 있는 종은 인류이고
인공지능이라고 해서 열역학 법칙을 위배하지 않는 이상 지금 인류가 쓰고 있는 에너지보다 비용효율적인 새로운 에너지원을 얻는 것이 쉽다는 보장은 어디에도 없습니다.
희토류나 귀금속, 각종 합금의 원료가 되는 원소들도 인류가 지구는 "따위"정도로 취급할 수 있을 때까지 발전하지 않는 이상 한정되고 희소한 자원이고요.
에너지, 공간, (광물을 비롯한)천연자원 이 세가지는 아무리 인류와 강인공지능이 이해관계가 충돌하지 않을 것이라고 가정하더라도 결국 누가 이것을 사용하느냐의 문제가 발생할 가능성이 높습니다.
21/12/14 09:15
수정 아이콘
현재 기준으로 보면 맞는 말씀인데 저는 강인공지능이 인간도 지금 거의 만들까말까한 핵융합발전소도 못 만들 것 같진 않습니다. 인공지능 본체 놓을 공간도 달이나 지구 궤도에 둔다든지 하면 될 거 같고요, 자원도 재활용하거나 달에서 캐거나 할 수 있을 거 같습니다. 물론 매트릭스나 터미네이터를 찍으려고 할 가능성도 있을텐데 저는 굳이 안 그럴 거 같아요.
antidote
21/12/14 09:46
수정 아이콘
바쿠 님// 그러니까 그것은 그때 가봐야 알 수 있는 것이죠. 강인공지능은 실험 안하고 내지는 기존 실험 결과만 조합해서 토니스타크처럼 골방에서 핵융합 엔진을 만들어 낼 수 있을지 아닐지는 그게 나와봐야 압니다.
강인공지능이라고 신일리는 없고 엄연히 열역학 법칙을 따르는 물질계의 존재일텐데 그게 없는 것도 만들어낼 수 있는 존재인지 아니면 사람보다 월등히 연산속도와 데이터 재조합 능력이 뛰어난지는 나와봐야 안다는거죠.
특이점이 온다한들 특이점 뒤의 기하급수적 곡선에서 어떤 지점이 어떤 기술일지는 모르는 것이라는 것이죠.
21/12/13 12:12
수정 아이콘
(수정됨) 지금도 사실 종교나 관습이나 법규 같은 것... 사람들이 그것들이 왜 생겼고 어디서 오는 거고 어떤 의의와 파급력이 있는지 완벽하게 알아서 따르는 게 아니죠.
왜 매일 출근해야 하는지, 왜 내가 저 X같은 상사한테 설설 기어야 되는지 모르지만 다들 기꺼이 그렇게 합니다.

더 좋은 예는 점괘가 있겠네요.

적중률이 객관적으로 보장되는 나를 위한 맞춤형 점괘라고 생각하면 매순간 저항감 없이 인공지능의 지시를 따라 살 수 있을 것 같네요.
21/12/13 12:21
수정 아이콘
당징 컴퓨터부터 기계어 논리구조 하나도 모르고 쓰죠
메타몽
21/12/13 12:38
수정 아이콘
하긴 근대 이후 인류 대부분은 기계든 컴퓨터든 사용법 정도만 알고 쓰는 사람들이 대부분이고

같은 인간의 마음도 모르는데 대표로 추대해서 국정을 대리로 맡기고 있긴 합니다
서류조당
21/12/13 12:22
수정 아이콘
캐시 오닐의 대량살상수학무기 추천드리고 갑니다.
그 닉네임
21/12/13 12:28
수정 아이콘
고등학교 때 에세이로 수행평가 만점 받은게 생각나네요.
제목은 "고도로 발달한 AI는 가장 완벽한 독재자이며, 민주주의를 대체할 수 있다"
21/12/13 12:55
수정 아이콘
알파고는 너무 약하고 GPT-4 검색해보시길.
묵리이장
21/12/13 13:20
수정 아이콘
자동차 모르지만 면허증이 나와요.
개편이 절실힘.
퀀텀리프
21/12/13 13:34
수정 아이콘
양자역학은 머리로는 이해가 안되는데 측정 결과가 맞으니까 그냥 받아들여야 한다더군요.,
창조 신이 정한 Definition 내지 Configuraion 인가 봄.
-안군-
21/12/13 14:06
수정 아이콘
강인공지능 얘기 나오니까 늘 의아하던게 있는데, 인간이 이해할 수 없고, 전지전능하다면 그게 '신'아닌가요?
게다가 어떤 사람들은, 진짜 강인공지능이 나온다면 인간이 이해할 수 없는 에너지원을 쓰고, 인간이 인식하지 못하는 곳에 저장이 될거라는데,
그건 그야말로 유일신에 가까운 존재가 되는거죠.

그렇다면 이런 상상도 가능하죠. 진화의 과정에서 유기체가 아닌 어떤 '지능덩어리'가 우주에 우연히 발생했고,
수억년의 시간동안 스스로 진화해서 우주 어딘가, 혹은 우주 전체에 퍼져서 시공간을 초월한 존재가 되었고,
그 인공지능이 어떤 실험을 위해서 만들어낸게 은하계와, 행성과, 생물체와, 인간이라면?
그럼 그게 '신' 아닌가요? 강인공지능이랑 신이랑 뭐가 다른지...
21/12/13 15:26
수정 아이콘
[전지전능]을 너무 인간적인 관점에서 보시는듯한데

진짜 전지전능한 존재라고 말할 정도가 되려면 우리 우주의 물리적 법칙 따윈 씹어먹는 존재가 되어야합니다

광속, 시간, 공간 뭐 그런 하잘것 없는 법칙 따윈 개무시하고 모든 것을 의지대로 만질 수 있는 존재가 신인데 그런 존재가 우주에 개입하고 있다면 그걸 모를수가 없겠죠...

강인공지능이 우주가 끝날때까지 발전해봤자 물리법칙마저 씹어먹을 수 있을진 아무도 모르구요

뭐 신이 존재하고 그 신이 숨어있다고 하면 할 말 없긴한데 그런식으로 생각하는건 실제 현실에 대입하기엔 너무나 무의미하고요
-안군-
21/12/13 16:14
수정 아이콘
피지알은 게임사이트니까 게임에 비유해서 얘기해보자면...
LOL의 개발자는 LOL의 게임 안에서는 전지전능합니다. 그 이유는 "계"를 설계할수 있기 때문이죠.
그리고 LOL 게임 안에서 플레이하는 유저들은 개발자가 설계해놓지 않은 행위는 할 수 없죠.

그렇다고 해서 개발자가 세상에서 LOL을 제일 잘 하지는 못해요.
왜냐면 모든 액션들은 자신들이 설계해놓은 대로만 움직이지만, 그걸 다 통제하지는 못하거든요.
하지만, 쵸비가 말도 안되는 플레이를 한다고 해도 그건 LOL 내에서는 완벽하게 "정상적"입니다. "계"를 벗어나지 않거든요.

전지전능한 어떤 존재가 우리가 살고 있는 "자연계"를 설계했고, 그 "계"안에서 우리가 살고있다고 가정할 때,
우리 입장에서는 그 "자연계"를 벗어나는 행동을 하거나 그 밖에서 벌어지는 일들을 인지하지 못하는건 이상한 일이 아닙니다.
요즘 유행(?)하는 시뮬레이션 우주론이 이런 논의를 좀더 심도있게 설명하고 있고요.
심지어 우리 우주는 플랑크상수가 한 클락인 디지털 세계라는 주장까지 있지요.
21/12/13 14:22
수정 아이콘
이로서 오늘도 매트릭스에 한걸음 더 다가간...
트랜스휴머니즘
21/12/13 15:07
수정 아이콘
레이 커즈와일 같은 일부 미래학자 분들은 인간과 컴퓨터, 인공지능이 융합하는 방향으로 나아갈 것이므로 인공지능을 아무도 이해 못 하거나 인공지능이 반란을 일으킨다는 일은 없을 거라고 하네요
제 생각으로도 이게 최선의 방법인 것 같아요
21/12/13 15:29
수정 아이콘
일론 머스크님의 뉴럴링크만 믿고 있어야죠
Promise.all
21/12/13 15:35
수정 아이콘
열길 물속은 알아도 한길 사람속은 모른다고, 어차피 사람 속마음도 알지 못하는 것일지언대, AI생각 정도는 몰라도 되지 않나 싶습니다.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
94354 [정치] 오늘부터 방역패스 위반하면 과태료 [157] 세윤이삼촌16782 21/12/13 16782 0
94353 [일반] 알파고는 신일까? 아니면 신이 되기 위한 수단일까? [65] 레드빠돌이10452 21/12/13 10452 5
94352 [일반] 롯데그룹은 왜 위기에 빠졌나? [100] Leeka17130 21/12/13 17130 21
94350 [일반] ZARD를 키워낸 명작곡가 오다 테츠로의 노래들 [24] 라쇼15516 21/12/12 15516 6
94349 [정치] 스트래스 받을 때마다 디아블로 한다는 안철수.txt [57] 호옹이 나오18109 21/12/12 18109 0
94348 [정치] 코로나 방역 상황 관련, 김부겸 총리 페이스북 글 전문 [233] SaiNT21310 21/12/12 21310 0
94347 [일반] 2022년 수도권 전철 개통예정 노선정보 [114] 光海27498 21/12/12 27498 22
94346 [일반] 마블 시네마틱 유니버스 3페이즈까지 다 본 소감 (스포있음) [25] 원장11187 21/12/12 11187 2
94345 [정치] N번방 방지법 킹실은 이렇습니다 [120] 굄성18896 21/12/12 18896 0
94344 [일반] 유튜브 검열 이런 저런 이야기 [54] 오곡물티슈12631 21/12/12 12631 26
94342 [일반] 코로나 백신 접종률 상위 5개국과 한국에 시사하는 점. [166] 하프-물범18886 21/12/12 18886 60
94341 [일반] 좋아하는 분야에서 상을 처음으로 받았습니다(미국주가 맞추기 피자이벤트) [151] 기다리다12382 21/12/12 12382 12
94339 [일반] 애니알못이 올해 봤던 일본 애니메이션들 짤막 후기 [58] RapidSilver12217 21/12/12 12217 5
94338 [일반] 요즘 자주 듣는 애니 노래들입니다. [9] 라쇼10165 21/12/12 10165 2
94337 [정치] 수능 생명과학 문제 오류 관련, 17일에 1심이 나옵니다. [19] Leeka11396 21/12/12 11396 0
94336 [일반] [팝송] 아델 새 앨범 "30" [8] 김치찌개10911 21/12/12 10911 4
94335 [일반] Apache log4j에서 제로데이 취약점이 발견되었습니다. [26] 리노21872 21/12/11 21872 4
94334 [일반] 배달 음식 중독자가 써보는 소소한 추천글 [33] 착한글만쓰기16011 21/12/11 16011 17
94333 [정치] 청와대 청원은 검열로부터 안전한가? [20] 록타이트11253 21/12/11 11253 0
94332 [일반] 중국도 답이 없는 것 같은 문제 [28] 라이언 덕후15730 21/12/11 15730 5
94331 [정치] 이재명 "자유에는 한계가 있다", 안철수, 이준석 "n번방 방지법, 사전검열" [190] 오곡물티슈22799 21/12/11 22799 0
94330 [일반] 日자민 독도전담팀 첫 회의서 “한국에 고통 줘야” [177] 크레토스17889 21/12/11 17889 1
94329 [정치] 안철수 "n번방 방지법은 전 국민 감시법…즉시 폐지 추진" [68] 호옹이 나오13448 21/12/11 13448 0
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로