2007. 11. 5. 11:32
65,535=100,000 Math2007. 11. 5. 11:32
Excel 2007의 부동소수점 연산에 버그가 있다고 한다. 한 달 전에 나온 소식인데 Excel 2007을 안 쓰다 보니 전혀 모르고 있었다.
보고에 따르면 77.1*850을 계산하면 65535가 아니라 100000이 출력된다고 한다. 이외에도 5.1*12850, 10.2*6425, 204*3212.5도 마찬가지.
웃기는 것은 출력만 이렇지 내부적으로는 65535를 제대로 처리하고 있어서, 저 결과에 2를 곱하면 131070이 나온다고 한다. 200000이 아니라.
자세한 정보는 여기: http://blogs.msdn.com/excel/archive/2007/09/25/calculation-issue-update.aspx
반응형
