PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2024/11/27 10:30:25
Name Lord Be Goja
File #1 IMG_5578.jpeg (754.0 KB), Download : 94
File #2 IMG_5577.jpeg (1.18 MB), Download : 90
출처 기글하드웨어 /mint
Link #2 https://gigglehd.com/gg/soft/16706702
Subject [기타] ???: ai 모델 개선이 슬슬 힘드신가요? 환각이 문제죠?? (수정됨)




아 그정도 질러서 되겠어요??
매상 더 올려주시라니까~
몇년은 더 사셔야 해요





통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
웃어른공격
24/11/27 10:33
수정 아이콘
난 널 유혹 하는거란다~~
24/11/27 10:39
수정 아이콘
아직 좀 부족하긴 한데 23년 초 생각하면 미친 속도로 개선중이긴 합니다. 몇년 걸린다는 말은 맞겠지만, 인간 수준은 곧일것 같습니다.
24/11/27 10:41
수정 아이콘
인간 시대의 끝이 도래하나
24/11/27 10:51
수정 아이콘
인간의 뇌를 시뮬레이션 하는 방식이니 인간이 [착각]하는 이상은
환각 개선이 쉽지는 않죠. 비슷한 현상이니

머리 좋고 기억력 좋은 사람일수록 착각 확률이 낮아지지만 0%가 안되는거 처럼
지금의 뉴런네트워크 방식의 AI로는 환각이 0%가 되는 경우는 없다고 보는데
그걸 사회적으로 인정 하고 받아드리느냐 못 받아드리느냐의 문제라고 봅니다
개미지옥
24/11/27 11:00
수정 아이콘
동의합니다.

또 환각이랑은 조금 다른데 AI를 효율적으로 사용하기 위해서 프롬프트 튜닝을 정말 많이들 하시게 되는데, 이 과정에서 내가 원하는 결과를 얻기 위해서 과도한 욕심을 부리는 경우에 또 성능의 저하가 정말 많이 일어나게 되는 것 같습니다. 저도 관련 일을 하면서 꽤나 많은 튜닝을 해봤다고 생각이 드는데, 최근에 얻은 깨달음은 불완전하고 헷갈리는 입력은 헷갈리게 놔두는 게 제일 낫다 였습니다. 뭔가 이래저래 내 입맛대로 바꿔보려다가 편향이 바로 생겨버리더라구요. 이걸 받아들이고 넘어가야 하는데 회사에서 의사결정권이 있는 높은 분들은 잘 이해를 못하시더라구요
raindraw
24/11/27 18:07
수정 아이콘
동의합니다. 인간 자체가 환각 현상을 일으키는 실험들은 충격적이더군요.
분리뇌인 사람에게 한쪽 눈으로 글자로 할 일 알려주면 그 내용을 실행하는데 왜 그렇게 했는지 설명하라니까 눈에서 본 정보를 받지 못한 분리된 언어뇌에서는 왜 그랬는지 모르니까 이유를 가짜로 만들어서 대답한 실험 같은 건 정말 충격 받았습니다.
인간뇌의 원래 기능에 환각이 들어있다고 봐요.
타마노코시
24/11/27 10:56
수정 아이콘
???: AI회사 이익은 줄지만 난 아닌데?
모링가
24/11/27 10:57
수정 아이콘
(수정됨) 환각은 결국 함께 가는 수 밖에 없다고 봅니다. 어쩌면 환각이라 네이밍한게 잘못일지도 몰랄요
문문문무
24/11/27 10:58
수정 아이콘
(수정됨) 그냥 신경망알고리즘 자체의 한계입니다.
표현이 너무 자유롭다보니 체계적사고를 피하는 우회루트를 너무 잘찾아요
마치 별도의 접착제나 도구없이 맨손과 바닷물 만으로 모래를 적셔 모래성을 쌓는듯한 느낌입니다.

그나마 찾은 돌파구가 오픈AI에서 논문을 낸적있는 과정감독과 챗GPT이후 LLM계에서 화두가 되었었던 CoT의 개념을 결합한듯?한 o1이었고
일단 에이전트라는 형태를 안정적으로 굴릴수 있을정도는 됩니다만 그런 방식만으로는 여기서 더 발전하려면 정말로 천문학적인 금전적,시간적비용으로도 힘들겁니다.

그래서 일리야가 오픈AI에서 나갈떄 들고나온 프로젝트인 automated interpretability의 성과가 너무나도 중요한것이겠구요
Mea Clupa
24/11/27 11:00
수정 아이콘
이게 투자한다고 확률이 줄어드는거지 없애지 못할겁니다.
문문문무
24/11/27 11:05
수정 아이콘
동의합니다. 환각을 제거했다! 하려면 진짜로 블랙박스가 해독이 되어서
모델구조의 일부만이라도 탈신경망화가 이뤄져야합니다.
망고베리
24/11/27 11:05
수정 아이콘
근본적으로 오차를 제거하는 건 물리적으로 불가능하죠
바밥밥바
24/11/27 11:41
수정 아이콘
인간 데이터로 학습한 AI가 인간이 해결 못한 문제를 해결할 수 없을거라는 가정이 필요할거 같습니다. 불완전성의 원리처럼요
24/11/27 11:54
수정 아이콘
이렇게 급격하게 바뀌는 판에서 몇년이나 걸린다고 못박은거면 뭔가 감도 못잡았다고 들리네요..?
Lord Be Goja
24/11/27 11:58
수정 아이콘
Ai모델이 배울만큼 배워서 어느정도 성숙되고 나면 거대한 학습모델용 하드웨어보다 개인이 쓸만한 작은 추론용 칩들의 시대가 올거고 그러면 엔비디아의 ai독점시대도 끝날거라는 이야기들이 있는데(그래서 올해에 퀄컴 암드 인텔이 다같이 그걸가속할수 있는 칩을 넣어 발매했고)그거에 대한 반박이라고 볼수있죠 그런시대 오려면 멀었다!
모링가
24/11/27 12:03
수정 아이콘
사실상 환각은 상상과 동치라서..
24/11/27 12:19
수정 아이콘
???: 우리 주식 몇 년은 더 오른다
안군시대
24/11/27 13:10
수정 아이콘
신경망, 딥러닝 분야야말로 "왠지는 잘 모르겠는데, 해보니까 되더라"의 영역이라서요. 마치 비행기가 뜨는 원리를 정확하게 설명할 순 없지만 어케어케 하니까 되더라는 것과 비슷하달까요..
의외로 공학 분야에는 저런 종류의 일들이 꽤 많지요.
24/11/27 16:33
수정 아이콘
이러면 자가 프로그래밍쪽을 손댈것 같기도 하고
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
509199 [기타] 한국보다 중국에서 더 유명한 신라인 [17] 삭제됨11898 24/12/01 11898
509198 [유머] 근데 남자들 진짜 자주 자위함? [4] Myoi Mina 11773 24/12/01 11773
509197 [유머] 매일 아침 운동하는 여동생 응원하는 오빠들 [11] Myoi Mina 11847 24/12/01 11847
509196 [음식] 과음한 다음날 점심 특 [5] 럭키비키잖앙9991 24/12/01 9991
509195 [유머] 미국에 실존했었다는 악마 [19] Myoi Mina 13963 24/12/01 13963
509194 [유머] 재미가 있는 더빙 [1] DogSound-_-*9424 24/12/01 9424
509193 [유머] 히드라엔 윈터솔져, 핀란드엔 도핑솔져 [6] DogSound-_-*9169 24/12/01 9169
509192 [동물&귀욤] 위처가 받는 푸대접이 고증인 이유 [14] 이호철9654 24/12/01 9654
509191 [유머] 방송으로 확인해달라던 9호 처분.레미제라블 [29] 이호철11341 24/12/01 11341
509190 [기타] 웬만하면 사지 않는 게 좋을 것 같은 책 [47] a-ha12297 24/12/01 12297
509189 [게임] 퍼스트 디센던트 향후 일정 [9] 묻고 더블로 가!8177 24/12/01 8177
509188 [LOL] 한화생명-제우스 영상 [18] 카루오스8348 24/12/01 8348
509187 [연예인] 덩케르크+다키스트 아워 팬 메이드 영상 "We Shall Fight!"(Finest Hour) [5] 된장까스6059 24/12/01 6059
509186 [유머] 목걸이에 소중한 걸 보관하는 사람 [8] 길갈9272 24/12/01 9272
509185 [유머] 혼인신고하는데 전 여친이 문자를 보냈다 [8] 일신10923 24/12/01 10923
509184 [LOL] 젠지 린 오피셜 [32] 묻고 더블로 가!8687 24/12/01 8687
509183 [기타] 한국과 미국의 체급차이 [17] Lord Be Goja12711 24/12/01 12711
509182 [유머] 드라마와는 다르다는 찐금수저들 특징. [69] 캬라13136 24/12/01 13136
509181 [유머] 딸 가지려면 반드시 필수 암기해야 할 거 [58] 뭉땡쓰14126 24/12/01 14126
509180 [유머] 조선이 고려보다 약하다라고 하는 사람들 이해안가는 이유 [50] 뭉땡쓰15378 24/12/01 15378
509179 [유머] 카드는 미끼상품일 뿐이었던 중고 판매자 [5] INTJ12908 24/12/01 12908
509178 [유머] ??? : 아 옛날말 쓰지마!!! [4] Starlord10730 24/12/01 10730
509177 [유머] 감자탕 먹는 영상 [6] 김삼관10465 24/12/01 10465
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로