달력

2

« 2020/2 »

  •  
  •  
  •  
  •  
  •  
  •  
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
2007. 11. 5. 11:32

65,535=100,000 Math2007. 11. 5. 11:32

Excel 2007의 부동소수점 연산에 버그가 있다고 한다. 한 달 전에 나온 소식인데 Excel 2007을 안 쓰다 보니 전혀 모르고 있었다.

보고에 따르면 77.1*850을 계산하면 65535가 아니라 100000이 출력된다고 한다. 이외에도 5.1*12850, 10.2*6425, 204*3212.5도 마찬가지.

웃기는 것은 출력만 이렇지 내부적으로는 65535를 제대로 처리하고 있어서, 저 결과에 2를 곱하면 131070이 나온다고 한다. 200000이 아니라.

자세한 정보는 여기: http://blogs.msdn.com/excel/archive/2007/09/25/calculation-issue-update.aspx

'Math' 카테고리의 다른 글

무서운 스펀지  (19) 2007.11.09
가위바위보  (9) 2007.11.08
65,535=100,000  (2) 2007.11.05
26회 대수경 문제 (오전/오후)  (5) 2007.11.04
타임머신  (1) 2007.11.04
천부경(天符經)  (5) 2007.10.31
Posted by puzzlist

댓글을 달아 주세요

  1. Favicon of http://noirepluie.net BlogIcon 玄雨 2007.11.05 15:29 신고  댓글주소  수정/삭제  댓글쓰기

    앗. 방금해봤는데 진짜 그렇네요;;

  2. Favicon of https://jiwonc.tistory.com BlogIcon Ji1 2007.11.09 23:27 신고  댓글주소  수정/삭제  댓글쓰기

    그 결과에 1을 더하면 100001, 빼면 65534가 나오는;;