30년전 인텔에 무슨일?…펜티엄 부동소수점 연산 오류 발견

1994년 美 수학과 교수가 발견... 인텔, 당시 리콜에 6천500억원 지출1994년 6월 중순, 당시 미국 린치버그 칼리지(이후 린치버그 대학교로 승격) 수학과 교수였던 토머스 나이슬리(Thomas Ray Nicely) 박사는 연구실에서 인텔 펜티엄 프로세서를 탑재한 컴퓨터로 나눗셈 계산을 하다 계산 결과가 예상과 다르다는 것을 발견했다.그는 같은 해 10월, 이 문제의 원인이 펜티엄 프로세서의 부동소수점 나눗셈(FDIV) 명령어의 오류에 있다는 사실을 밝히고 10월 24일경 이 문제를 인텔에 알렸다. 인텔 역사상 첫 번째 프로세서 리콜을 이끌어 낸 '펜티엄 FDIV 버그' 사건의 시작이었다.펜티엄 초기 설계시 오류 저지른 인텔인텔은 80486 DX 프로세서 대비 펜티엄 프로세서의 연산 성능을 끌어올..

2024.11.03