PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2024/11/27 10:30:25
Name Lord Be Goja
File #1 IMG_5578.jpeg (754.0 KB), Download : 94
File #2 IMG_5577.jpeg (1.18 MB), Download : 90
출처 기글하드웨어 /mint
Link #2 https://gigglehd.com/gg/soft/16706702
Subject [기타] ???: ai 모델 개선이 슬슬 힘드신가요? 환각이 문제죠?? (수정됨)




아 그정도 질러서 되겠어요??
매상 더 올려주시라니까~
몇년은 더 사셔야 해요





통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
웃어른공격
24/11/27 10:33
수정 아이콘
난 널 유혹 하는거란다~~
24/11/27 10:39
수정 아이콘
아직 좀 부족하긴 한데 23년 초 생각하면 미친 속도로 개선중이긴 합니다. 몇년 걸린다는 말은 맞겠지만, 인간 수준은 곧일것 같습니다.
24/11/27 10:41
수정 아이콘
인간 시대의 끝이 도래하나
24/11/27 10:51
수정 아이콘
인간의 뇌를 시뮬레이션 하는 방식이니 인간이 [착각]하는 이상은
환각 개선이 쉽지는 않죠. 비슷한 현상이니

머리 좋고 기억력 좋은 사람일수록 착각 확률이 낮아지지만 0%가 안되는거 처럼
지금의 뉴런네트워크 방식의 AI로는 환각이 0%가 되는 경우는 없다고 보는데
그걸 사회적으로 인정 하고 받아드리느냐 못 받아드리느냐의 문제라고 봅니다
개미지옥
24/11/27 11:00
수정 아이콘
동의합니다.

또 환각이랑은 조금 다른데 AI를 효율적으로 사용하기 위해서 프롬프트 튜닝을 정말 많이들 하시게 되는데, 이 과정에서 내가 원하는 결과를 얻기 위해서 과도한 욕심을 부리는 경우에 또 성능의 저하가 정말 많이 일어나게 되는 것 같습니다. 저도 관련 일을 하면서 꽤나 많은 튜닝을 해봤다고 생각이 드는데, 최근에 얻은 깨달음은 불완전하고 헷갈리는 입력은 헷갈리게 놔두는 게 제일 낫다 였습니다. 뭔가 이래저래 내 입맛대로 바꿔보려다가 편향이 바로 생겨버리더라구요. 이걸 받아들이고 넘어가야 하는데 회사에서 의사결정권이 있는 높은 분들은 잘 이해를 못하시더라구요
raindraw
24/11/27 18:07
수정 아이콘
동의합니다. 인간 자체가 환각 현상을 일으키는 실험들은 충격적이더군요.
분리뇌인 사람에게 한쪽 눈으로 글자로 할 일 알려주면 그 내용을 실행하는데 왜 그렇게 했는지 설명하라니까 눈에서 본 정보를 받지 못한 분리된 언어뇌에서는 왜 그랬는지 모르니까 이유를 가짜로 만들어서 대답한 실험 같은 건 정말 충격 받았습니다.
인간뇌의 원래 기능에 환각이 들어있다고 봐요.
타마노코시
24/11/27 10:56
수정 아이콘
???: AI회사 이익은 줄지만 난 아닌데?
모링가
24/11/27 10:57
수정 아이콘
(수정됨) 환각은 결국 함께 가는 수 밖에 없다고 봅니다. 어쩌면 환각이라 네이밍한게 잘못일지도 몰랄요
문문문무
24/11/27 10:58
수정 아이콘
(수정됨) 그냥 신경망알고리즘 자체의 한계입니다.
표현이 너무 자유롭다보니 체계적사고를 피하는 우회루트를 너무 잘찾아요
마치 별도의 접착제나 도구없이 맨손과 바닷물 만으로 모래를 적셔 모래성을 쌓는듯한 느낌입니다.

그나마 찾은 돌파구가 오픈AI에서 논문을 낸적있는 과정감독과 챗GPT이후 LLM계에서 화두가 되었었던 CoT의 개념을 결합한듯?한 o1이었고
일단 에이전트라는 형태를 안정적으로 굴릴수 있을정도는 됩니다만 그런 방식만으로는 여기서 더 발전하려면 정말로 천문학적인 금전적,시간적비용으로도 힘들겁니다.

그래서 일리야가 오픈AI에서 나갈떄 들고나온 프로젝트인 automated interpretability의 성과가 너무나도 중요한것이겠구요
Mea Clupa
24/11/27 11:00
수정 아이콘
이게 투자한다고 확률이 줄어드는거지 없애지 못할겁니다.
문문문무
24/11/27 11:05
수정 아이콘
동의합니다. 환각을 제거했다! 하려면 진짜로 블랙박스가 해독이 되어서
모델구조의 일부만이라도 탈신경망화가 이뤄져야합니다.
망고베리
24/11/27 11:05
수정 아이콘
근본적으로 오차를 제거하는 건 물리적으로 불가능하죠
바밥밥바
24/11/27 11:41
수정 아이콘
인간 데이터로 학습한 AI가 인간이 해결 못한 문제를 해결할 수 없을거라는 가정이 필요할거 같습니다. 불완전성의 원리처럼요
24/11/27 11:54
수정 아이콘
이렇게 급격하게 바뀌는 판에서 몇년이나 걸린다고 못박은거면 뭔가 감도 못잡았다고 들리네요..?
Lord Be Goja
24/11/27 11:58
수정 아이콘
Ai모델이 배울만큼 배워서 어느정도 성숙되고 나면 거대한 학습모델용 하드웨어보다 개인이 쓸만한 작은 추론용 칩들의 시대가 올거고 그러면 엔비디아의 ai독점시대도 끝날거라는 이야기들이 있는데(그래서 올해에 퀄컴 암드 인텔이 다같이 그걸가속할수 있는 칩을 넣어 발매했고)그거에 대한 반박이라고 볼수있죠 그런시대 오려면 멀었다!
모링가
24/11/27 12:03
수정 아이콘
사실상 환각은 상상과 동치라서..
24/11/27 12:19
수정 아이콘
???: 우리 주식 몇 년은 더 오른다
안군시대
24/11/27 13:10
수정 아이콘
신경망, 딥러닝 분야야말로 "왠지는 잘 모르겠는데, 해보니까 되더라"의 영역이라서요. 마치 비행기가 뜨는 원리를 정확하게 설명할 순 없지만 어케어케 하니까 되더라는 것과 비슷하달까요..
의외로 공학 분야에는 저런 종류의 일들이 꽤 많지요.
24/11/27 16:33
수정 아이콘
이러면 자가 프로그래밍쪽을 손댈것 같기도 하고
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
509211 [기타] 동해중부선(포항-삼척) 개통 [31] a-ha9957 24/12/01 9957
509210 [LOL] 케스파컵에서 나온 김기인의 악랄한 모습 [6] 카루오스10714 24/12/01 10714
509209 [기타] 진짜 건전 그 자체인 클럽 [1] 닉넴길이제한8자8781 24/12/01 8781
509207 [유머] 건전 그 자체인 클럽 [12] 뭉땡쓰12207 24/12/01 12207
509206 [서브컬쳐] 채신 애니 극장판 보러오세요 [18] 유머7261 24/12/01 7261
509205 [유머]  리모컨 건전지를 빼도 TV가 알아서 켜져요.jpg [21] Myoi Mina 12561 24/12/01 12561
509204 [유머] 드래곤볼 처음 접하는분 울리는 장면 [32] Croove13022 24/12/01 13022
509203 [유머] 일본 교과서에 실려 있다는 4세기 말 한반도 지형도 [24] a-ha11929 24/12/01 11929
509202 [스포츠] 마라톤 2시간 47분 뛰는 누나의 러닝폼.mp4 [12] insane10956 24/12/01 10956
509201 [유머] 처제 덕분에 스폰서를 얻은 선수 [5] 퍼블레인11283 24/12/01 11283
509200 [연예인] Avart! Avart! [6] 묻고 더블로 가!7927 24/12/01 7927
509199 [기타] 한국보다 중국에서 더 유명한 신라인 [17] 삭제됨11905 24/12/01 11905
509198 [유머] 근데 남자들 진짜 자주 자위함? [4] Myoi Mina 11781 24/12/01 11781
509197 [유머] 매일 아침 운동하는 여동생 응원하는 오빠들 [11] Myoi Mina 11856 24/12/01 11856
509196 [음식] 과음한 다음날 점심 특 [5] 럭키비키잖앙9996 24/12/01 9996
509195 [유머] 미국에 실존했었다는 악마 [19] Myoi Mina 13972 24/12/01 13972
509194 [유머] 재미가 있는 더빙 [1] DogSound-_-*9432 24/12/01 9432
509193 [유머] 히드라엔 윈터솔져, 핀란드엔 도핑솔져 [6] DogSound-_-*9175 24/12/01 9175
509192 [동물&귀욤] 위처가 받는 푸대접이 고증인 이유 [14] 이호철9659 24/12/01 9659
509191 [유머] 방송으로 확인해달라던 9호 처분.레미제라블 [29] 이호철11345 24/12/01 11345
509190 [기타] 웬만하면 사지 않는 게 좋을 것 같은 책 [47] a-ha12304 24/12/01 12304
509189 [게임] 퍼스트 디센던트 향후 일정 [9] 묻고 더블로 가!8181 24/12/01 8181
509188 [LOL] 한화생명-제우스 영상 [18] 카루오스8355 24/12/01 8355
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로