Беседы о программировании 003 :: Проблема конвертирования десятичной дроби в формат с плавающей точкой IEEE-754

Эта видеобеседа посвящена одной важной проблеме конвертирования произвольной десятичной дроби в формат с плавающей точкой. Речь пойдёт об ошибке округления в процессе конвертирования. На момент записи видео автору не было известно ни одного компилятора, который был бы избавлен от такой ошибки. Вы узнаете о том, что перевод числа в формат с плавающей точкой – это не такая простая задача, как может показаться поначалу, особенно после просмотра различных уроков о том, как всё просто и замечательно в теории.

Сопутствующие ссылки

Архив к видео.

Muller, Jean-Michel and Brisebarre…
Handbook of Floating-Point Arithmetic

«Что нужно знать про арифметику с плавающей запятой»

Single-precision floating-point format
Из этой статьи можно перейти по ссылкам на все остальные форматы: half-, double-, quadruple- и extended-precision

Функция David Gay’s strtod [.c]

Онлайн-конвертер Rick Regan’s

Decimal to Floating-Point Needs Arbitrary Precision

Сайт Rick Regan’s.
Наиболее подходящие к теме беседы статьи смотрите в меню Topics, подзаголовок “Correctly Rounded Decimal to Floating-Point Conversion”

«Простые тесты для проверки конвертирования десятичной дроби в формат с плавающей точкой IEEE-754»