|
:: 게시판
:: 이전 게시판
|
이전 질문 게시판은 새 글 쓰기를 막았습니다. [질문 게시판]을 이용바랍니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
12/05/25 22:42
디지털 컴퓨터에서 발생할 수 밖에 없는 numerical error입니다.
6.1232e-017의 뜻은.. 0.000000000000000061232 라는 거죠. 사실상 0. 컴퓨터가 표현할 수 있는 자리수가 무한이 아니기 때문에 발생하는 에러에요. pi값을 정확히 표현하기 위해서는 무한대의 자리수가 필요한데 그렇지 못하니까.. 입력으로 들어가는 pi/2의 값이 정확히 '2분의1파이' 는 아니게 되거든요.
|
||||||||||