Что такое double rounding error?

Опубликовал на русскоязычном Stack Overflow вопрос и ответ по поводу double rounding error — ошибки двойного округления. Фактически, это полноценная статья по теме.

Открытие проекта ECA

Друзья, наконец-то открывается сайт, который я начал делать довольно давно. Это учебный проект Exploring Computer Arithmetic (ECA), который посвящён самым разным вопросам, связанным с компьютерной арифметикой.

Читать далее «Открытие проекта ECA»

Обновление проекта ZCA и другие новости

Уважаемые подписчики.

Видеобеседы о программировании на данный момент приостановлены на неопределённый срок в с вязи с техническими трудностями: я не могу записывать видео на том оборудовании, на котором сейчас вынужден работать. Однако развитие моих проектов продолжается. На данный момент потихоньку переписывается код библиотеки ZCA. Старый код, который сопровождал видеолекции по длинной арифметике, я положил в архив сюда. Больше к этому коду возвращаться не буду.

Читать далее «Обновление проекта ZCA и другие новости»

Беседы о программировании :: 025 :: Длинная арифметика 15 :: Деление m/n

Описана процедура деления длинных чисел (векторов). Эта беседа фактически завершает основную часть цикла по длинной арифметике. Дальнейшие серии будут посвящены более сложным алгоритмам и работе над проектом ZCA.

Беседы о программировании 023 :: Длинная арифметика 13 :: Деление 3/2. Часть II

Здесь завершается разговор о деление трёх лимбов на два. Показано как исправить ошибку из беседы 021 и рассмотрен алгоритм деления 3/2 без удвоенного лимба.

Беседы о программировании 022 :: Длинная арифметика 12 :: Деление 2/1. Часть II

Изложены два алгоритма деления двух лимбов на один в том случае, когда удвоенного лимба нет. Эти алгоритмы сравниваются с теми, что изложены в беседе 018.

Беседы о программировании 021 :: Длинная арифметика 11 :: Деление 3/2. Часть I

Излагается один из алгоритмов деления 3-х лимбов на 2 лимба, при условии, что имеется тип данных размером с удвоенный лимб. Эта важная операция лежит в основе деления длинных чисел.

Беседы о программировании 020 :: Функции min(a,b) и max(a,b) для чисел без знака


Здесь рассматриваются функции определения минимума и максимума из двух чисел без знака. Данная статья — прямое продолжение статьи про эти же функции со знаком. Поэтому если вы её не читали, то лучше прочитать, так как здесь показана лишь разница метода 4 для знаковых и беззнаковых чисел, а также сводная таблица сравнения для всех вместе.

Читать далее «Беседы о программировании 020 :: Функции min(a,b) и max(a,b) для чисел без знака»