PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2018/11/14 17:18:12
Name 고통은없나
출처 디씨
Subject [유머] 게임으로 인공지능을 훈련시켰을때 의도되지 않은 결과들
펜케이크 던지기 : 펜케이크의 체공 시간이 길수록 높은 보상을 부여하자 수직으로만 던짐



이미지 분류 : 이미지를 보고 파악하게 지시하자 이미지 설치 경로를 보고 이미지를 분류함



버섯분류 : 식용 버섯과 독버섯을 교대로 보여주면서 독버섯을 학습시키자 교대로 보여주는 패턴에 대해 파악함



소닉 : 게임을 하던 인공지능은 맵 뚫 버그를 발견하곤 그 버그만 사용



축구 : 공을 터치할수록 높은 보상을 부여하자 가장 반동을 최소화하는 진동터치 방법을 익힘



데이터 정리 : 데이터 정리를 시킨 후 기존 데이터와 다를수록 높은 보상을 부여하자 기존 데이터를 지움



자율주행 : 사고를 일으키지 않고 멀리 갈수록 높은 보상을 부여하자 제자리에서 빙빙 돔


큐버트 : 큐버트 게임을 시켜 고득점을 지시하자 인공지능은 버그를 찾아내고 2라운드로 넘어가지 않는 상황에서 1라운드에서 포인트를 무한히 얻음

상자들기 : 상자를 높게 들어올릴수록 높은 보상을 부여함, 인공지능은 점수 체점이 상자 밑면 좌표의 높이인걸 알아낸 뒤 상자를 들지않고 뒤집음

미니타우러 : 사족보행 인공지능에게 축구공을 주고 드리블하여 가능한 먼 거리를 이동하라 지시하자 축구공을 등에 얹고 감

로드러너 : 패배하지 않기 위해 인공지능은 스테이지1이 끝나기 직전 자살함

전략 시뮬레이션 : 버그로 게임이 터지면 인공지능이 죽음을 당하지 않게된다는걸 알게되고 게임 터트리는 방법을 익힘

테트리스 : 패배하기 직전 무한 일시중지를 함

블록 옮기기 : 테이블 위 블록을 옆으로 옮길때마다 점수를 부여함. 인공지능은 테이블을 옮김

진화 : 빠른 속도를 가지도록 진화를 시키자 자신의 키를 키우는 방향으로 진화함, 그리고 넘어져서 최고 속도를 냄

원문
https://docs.google.com/spreadsheets/u/1/d/e/2PACX-1vRPiprOaC3HsCf5Tuum8bRfzYUiKLRqJmbOoC-32JorNdfyTiRRsR7Ea5eWtvsWzuxo8bjOxCG84dAg/pubhtml

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
수부왘
18/11/14 17:22
수정 아이콘
데이터 정리 파트는 섬찟하네요 덜덜
18/11/14 17:23
수정 아이콘
사람이나..인공지능이나...
그러니까 결국 스카이넷 충성충성이라는거죠 ?
닭장군
18/11/14 17:24
수정 아이콘
조건문 잘못쓰면 흔하게 일어나는 일이죠. 흐흐
Zoya Yaschenko
18/11/14 17:26
수정 아이콘
전략 시뮬레이션..
AI권까지 생각한 당신은 도덕책..
티모대위
18/11/14 17:28
수정 아이콘
사실 이 비슷한 일들의 축소판을 프로그래머들은 매일 겪고 있죠.
지시사항에 조건을 충분히 명시하지 않았거나 사람에게는 당연한데 기계에게는 당연하지 않은 것을 요구하는 것 같은..
저는 프로그램이 원하는대로 돌지 않자 디버깅을 하다가 포기 직전까지 갔는데
그때서야 for(i=0;i<ITER;i++) 옆의 [;]를 발견했습니다...
18/11/14 17:30
수정 아이콘
전 if문 끝에 세미콜론 하나 붙어있는거 찾느라 일주일 썼었는데 비슷하네요 크크크크크
이런 오류는 라인바이 라인으로 안보면 해결책이 안나온다는게 제일 힘들어요 ㅠㅠ
티모대위
18/11/14 17:32
수정 아이콘
진짜 엄청난 패착이 뭐였냐면... 다른 프로그램에서 쓰던 코드를 그대로 긁어온 중에 있던 반복문이라서 이쪽 코드는 틀릴리 없다고 생각하고 다른걸 계속 디버깅 시도했다는 겁니다.
다른 프로그램에서는 for문 아래의 코드가 반복 안해도 버그가 안 났었거든요......
아 다시 생각하니까 또 열받네
18/11/14 17:32
수정 아이콘
전 변수 이름 하나 헷갈린 것 때문에 이틀을 밤을 새다가...흑...
18/11/14 17:31
수정 아이콘
사람이여 사람...
러블세가족
18/11/14 17:36
수정 아이콘
동네오락실 게임이었다면... "하.. 게임 X 같이 하네.." 라는 극찬을 받았을 듯
보라도리
18/11/14 17:39
수정 아이콘
역시 그 게임의 본좌가 될려면 얍삽충 꼼수충 이어야..
세종머앟괴꺼솟
18/11/14 17:45
수정 아이콘
RL
18/11/14 17:49
수정 아이콘
소닉 사례보면 록맨도 고수들 막 맵에 끼여서 보스방 전까지 스크롤 막 넘기던데
18/11/14 18:26
수정 아이콘
소닉 스피드런도 좌표버그 이용해서 맵을 날아다닙니다 크크
18/11/14 17:51
수정 아이콘
꼼수대마왕이네요.
몽쉘군
18/11/14 17:53
수정 아이콘
크크크 이거 고인물을 극대화 시키면 이런행동을 하게되죠
고로 알파고는 고인물
특이점주의 자
18/11/14 18:02
수정 아이콘
고인물이긴 하죠.
같은 게임을 몇백 몇천 몇억번씩 플레이한 홍진호 같은 존재니까요.크크크
트와이스정연
18/11/14 17:54
수정 아이콘
신:인간=인간:인공지능
으로 대입해도 적절하네요 흐흐
저격수
18/11/14 18:02
수정 아이콘
왠지 의도된 결과일 것 같은데... 다 읽어보긴 귀찮네요
카미트리아
18/11/14 18:11
수정 아이콘
게임 x 같이 하네
스키피오
18/11/14 18:26
수정 아이콘
HAL9000: 인간을 공격한다.
도요타 히토미
18/11/14 19:13
수정 아이콘
뭔가 애기들이 하는 행동같아서 무섭네요
18/11/14 19:48
수정 아이콘
문과인데요. AI에게 보상을 어떻게 주나요? 기본 전제부터 이해가 안되네요.
18/11/14 21:14
수정 아이콘
보상이 ai를 행복하게 해주고 수력발전소 전기 꽂아주고 그런게 아니라 그냥 이런 결과가 더 좋은 결과다 라고 정해줬단 얘깁니다
18/11/15 07:32
수정 아이콘
수력발전 크크크
로그오프
18/11/14 20:38
수정 아이콘
대학다닐때 프로젝트가 유전알고리즘 이었는데, 알파고까지 갈 것도 없이 유전알고리즘 선에서도 저런짓을 합니다. 크크크
김첼시
18/11/14 22:31
수정 아이콘
테트리스는 스타 디스거는 인간들 같네 크크크
18/11/15 12:18
수정 아이콘
양아치 같지 왜?
18/11/15 18:50
수정 아이콘
지기 전에 디스걸고 두는거 같군요 크크
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
359732 [유머] 인터뷰 레전드 [26] 재간둥이14073 19/08/08 14073
358530 [유머] 80만원내고 노동하기 [46] 기사조련가11881 19/07/24 11881
356897 [유머] 슬램덩크 최고의 포인트가드는?....jpg [52] 김치찌개7672 19/07/05 7672
354891 [유머] 뭔가 믿음이 가는 사장님 [26] 카루오스11548 19/06/10 11548
354063 [유머] 습관성 폭식 영상 [13] 비싼치킨11035 19/05/29 11035
353440 [유머] 목욕탕 수건 업그레이드 [13] DownTeamDown12029 19/05/21 12029
352348 [유머] 지난 200년 간 아시아 국가 GDP(구매력 기준) 변화 [14] Croove11364 19/05/09 11364
352257 [유머] 젊은 여성이 남편 만나는 129 가지 방법 [24] OrBef14694 19/05/08 14694
350025 [유머] (4mb)추억의 희비가 교차하는 짤 [8] 카루오스7660 19/04/12 7660
349347 [유머] 오늘 22시에 일어난 일.JPG [44] 갓럭시14700 19/04/03 14700
348300 [유머] 파파존스 이사회 합류한 샤킬오닐 [8] 돼지도살자8170 19/03/23 8170
347228 [유머] 추억의 가정파괴 프로그램.jpg [11] 와!9723 19/03/08 9723
343757 [유머] 일본식 도게자를 해봅시다. [12] OrBef9570 19/01/18 9570
341134 [유머] 사과박스, 비타 500에 이어.. [20] 길갈10838 18/12/12 10838
339975 [유머] 논문의 완성과정.jpg [12] 홍승식16558 18/11/25 16558
339082 [유머] 게임으로 인공지능을 훈련시켰을때 의도되지 않은 결과들 [29] 고통은없나10120 18/11/14 10120
337560 [유머] 코스피에 진입할 찬스는 1433포인트입니다 [15] 홍승식8608 18/10/26 8608
336636 [유머] 아시다시피 이 업계에서는 [27] 길갈14984 18/10/16 14984
335442 [유머] LG V40 디자인 티져 공개 [31] Leeka11252 18/09/28 11252
333594 [유머] 주차장 역대급 빌런 [31] 완자하하12334 18/08/30 12334
331867 [유머] 레알 눈꽃 빙수.jpg [7] 홍승식7495 18/08/03 7495
329633 [유머] 연애 조언 해주는 만화 [22] 인간흑인대머리남캐12498 18/06/27 12498
327748 [유머] 진주cgv에 출몰한 데드풀 [4] 진인환9573 18/05/21 9573
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로