PGR21.com
- PGR21 관련된 질문 및 건의는 [건의 게시판]을 이용바랍니다.
- (2013년 3월 이전) 오래된 질문글은 [이전 질문 게시판]에 있습니다.
통합 규정을 준수해 주십시오. (2015.12.25.)
Date 2025/06/05 17:25:45
Name Scour
Subject [질문] LLM 질문 - ChatGPT는 어디서 돌아가고 있나요
조금 테크니컬한 질문인데요

요새 코어위브 처럼 아예 GPU를 대량 매수해서 GPU 연산 서비스화 및 구독판매하는 모델이 나오고 있는데요.
우리나라엔 AI급 데이터센터가 몇개 안되는 것으로 알고있는데(있긴 있나요?)... 여기서 궁금한게 우리나라에선, 즉 제가 지금 한국에서 ChatGPT를 사용한다고 치면, 여기에 필요한 전산(compute)을 누가 어디서 돌리나요? 제가 입력한 질문이 KT망을 타고 바다를 건너 미국(혹은 그 외 지역)에 있는 마소 AI 데이터센터에 전송이 되고 거기서 ChatGPT가 열심히 굴려서 답변해주면 그 답변이 다시 바다를 건너 한국 KT망에 들어와서 제 폰에 뿌려지는 방식인가요?

이게 맞다면, 그리고 저희가 ChatGPT 답변이 10초 이상 걸려도 크게 신경을 안쓰는 트렌드가 계속된다면, 굳이 한국에 AI 서버를 설치할 필요가 있나요? 저기 뭐 값싼 동남아나 호주 이런데 잔뜩 지어놓고 거기서 끌어와 쓰면 되는건지요?

고견 기다립니다.
감사합니다.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/06/05 17:30
수정 아이콘
일단 외국 서버에서 돌아가는 것은 확실합니다. 웹페이지야 바로바로 떠야되니까 한국 서버에 놓지만 말씀하신대로 ai처럼 응답 시간이 중요하지 않은 경우는 굳이 한국 서버에 놓을 필요가 없습니다
격렬하게쉬고싶다
25/06/05 17:33
수정 아이콘
굳이 KT망은 아닐수 있고 (그럴 가능성이 높지만) 마이크로소프트 Azure 서비스의 데이터센터의 NVIDIA GPU 서버에서 돌겠죠.
ChatGPT같은 서비스의 서버를 한국에 두어야 하는 이유는 저도 잘 모르겠습니다. 지금 OpenAI 한국지사도 영업조직일겁니다.
그리고, KT-MS 협력은 또 궤가 다릅니다. GPT-K 뭐 이런 말이 나오는데 한국에 GPU 서버를 두고 돌아갈지 의문이네요.
25/06/05 17:44
수정 아이콘
세크리
25/06/05 17:44
수정 아이콘
현재 서버는 대부분 외국에 있고, 데이터 처리도 다 외국에서 되죠. OpenAI가 한국에 서버를 설치하면 뭐 latency 개선 이외에 딱히 큰 효과는 없겠죠. 다만 국내 기업이 LLM을 국내에 있는 서버로 서비스를 한다면 보안 면에서 국내 기업들이 해당 서비스를 이용할 확률이 크다고 봅니다. 예를 들어 한국 지도 데이터는 국외 반출이 법적으로 제한됩니다. 한국 서버에서 돌아가는 LLM이 생기면 해당 지도 데이터를 통해서 뭔가 서비스를 만들 수 있겠죠.
25/06/05 18:24
수정 아이콘
다른 얘긴데 K-LLM이라고 해봤자 딥식이던 그록이던 기존 아키텍쳐 기반이겠지요?
BlueTypoon
25/06/05 19:55
수정 아이콘
https://platform.openai.com/docs/guides/your-data
여기 참고하면 될 것 같습니다.
연산 서버는 미국, 유럽에 있고 데이터는 더 넓은 지역에 있습니다. 한국에도 있긴한데 특정 기업들의 데이터 보호용으로 알고있어서 그 외의 사람들도 한국 내 데이터센터를 쓰는지는 확인이 필요할 것 같습니다.
BlueTypoon
25/06/05 20:24
수정 아이콘
https://openai.com/index/introducing-data-residency-in-asia/
여기에도 관련 내용이 더 있습니다. 카카오가 언급되어있고 비지니스 제품, 조건이 되는 API 플랫폼이 지역의 데이터 센터를 이용한다고 되어있네요.
larrabee
25/06/05 22:40
수정 아이콘
azure 한국 리전이 있긴합니다만 극히 일부 서비스들만 한국리전을 이용할거고, chatgpt 포함 대부분 해외서버에서 돌아갈겁니다
초콜릿
25/06/06 02:16
수정 아이콘
해외에 있지 않을까 싶습니다. 정확히 ChatGPT 이야기는 아니긴 합니다만... AWS가 제공하는 Bedrock 같은 서비스들 보면 Claude Sonnet 3.5까지는 AWS 서울 리전으로 한정해서 호출할 수 있었는데, Sonnet 3.7 이상부터는 서울 리전만으로는 제공되지 않고 (굳이 아시아권에서 쓰고 싶다면) 아시아-태평양 통합으로만 호출해서 쓸 수 있습니다.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
180867 [질문] 야구에서 구종의 피안타율의 분모는 무엇인가요? [3] SaiNT2924 25/06/14 2924
180866 [삭제예정] 여친이 귀찮을 때 어떻게 하시나요? [23] 삭제됨5227 25/06/14 5227
180865 [질문] 무과금으로 할만한 모바일 rpg류 게임 추천 부탁드립니다 [16] 55만루홈런5549 25/06/13 5549
180864 [질문] 일반 스피커에 비해 듀얼 센스에 있는 스피커를 사용하면 게임에 있어 이점이 있나요? [3] 카페알파4420 25/06/13 4420
180862 [질문] [해축] 이번 시즌부터 이피엘, 챔스 둘다 보려면 이중 지출 맞나요? [9] WhiteBerry3813 25/06/13 3813
180861 [질문] [축구] 손흥민은 세계 모든 나라에서 국대가 될 수 있을까요? [18] IPhone 17 pro5193 25/06/13 5193
180860 [질문] [KBO] 이 두 팀중에 페넌트레이스 리그 기준으로 누가 더 강팀이었나요? [7] 요하네스버그3220 25/06/13 3220
180859 [질문] 공유기 질문 드립니다. [3] LightBurn2186 25/06/13 2186
180858 [질문] 스위치2 사신분 악세사리 뭐 사셨나요?? [16] 본좌2567 25/06/13 2567
180857 [질문] 이별한 사람을 좋게 기억하기 VS 나쁘게 기억하기 [20] Polkadot3498 25/06/13 3498
180856 [질문] 인터넷 공유기 추천 부탁드립니다. [10] 카리나2879 25/06/13 2879
180855 [질문] 안국역 인근에 6개월 아기랑 갈만한 식당이 있을까요?? [2] 테오도르3151 25/06/12 3151
180854 [질문] 피싱 사이트에 카드 정보를 입력하고 정지했는데 괜찮을까요? [2] 안녕!곤2753 25/06/12 2753
180853 [질문] 지금 거주중인 반전세 집을 매수할까 고민중입니다. [49] 사계5135 25/06/12 5135
180852 [질문] 강남, 서초에서 고기 배달 맛있는곳 찾습니다 [7] Mele3159 25/06/12 3159
180851 [질문] '스위치로 이 게임은 꼭 해봐라!' 질문아닌 질문입니다 [79] drighk5156 25/06/12 5156
180850 [질문] [노안수술] 렌즈 혹은 인공수청체 삽입 수술 고민하고 있습니다. [6] canoppy3791 25/06/12 3791
180849 [질문] 힘줘도 배가 안들어가면 내장지방일까요?? [5] 스핔스핔3265 25/06/12 3265
180848 [삭제예정] 부천시나 고양시에 추천해주실만한 정신과 의원 있으면 추천좀 부탁드립니다. [1] 4월2948 25/06/11 2948
180847 [질문] 발에 땀때문에 생긴 발냄새는 못없앨까요? [38] 그냥달려6054 25/06/11 6054
180845 [질문] KVM 스위치에 대해 질문입니다.(지원하는 주사율이랑 한 가지 더요.) [2] 카페알파3653 25/06/11 3653
180844 [질문] 넷플릭스에서 네이버플러스로. [23] 오하이오5023 25/06/11 5023
180843 [질문] 말죽거리 전투력 순위? [18] Garnett214522 25/06/11 4522
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로