О чём рассказывается в презентации:
Презентация посвящена форматам чисел с фиксированной и плавающей точкой, а также способам их представления в ЭВМ. В ней рассматриваются основные принципы хранения данных в двоичном коде, включая ограничения целочисленного представления и возможности формата с плавающей точкой, что критично для научных вычислений. Понимание этих аспектов поможет лучше ориентироваться в вопросах точности и диапазона при работе с числовыми данными.
Оглавление
Форматы чисел с фиксированной и плавающей точкой и способы представления данных в ЭВМ
Данные в ЭВМ хранятся в двоичном коде с фиксированной разрядностью
Целочисленное представление ограничивается диапазоном 2^n битов
Вещественные числа требуют явного указания позиции двоичной точки
Фиксированная точка гарантирует конечную абсолютную ошибку
Ограниченный диапазон фиксированной точки не позволяет представлять экстремальные значения
Фиксированная точка использует целочисленные операции для арифметики
Плавающая точка нормализуется как m × 2^q с 1 ≤ m < 2
IEEE 754 single precision занимает 32 бита: 1 знак, 8 порядок, 23 мантисса
IEEE 754 double precision использует 64 бита: 1 знак, 11 порядок, 52 мантисса
Биас порядка в IEEE 754 упрощает сравнения: для single +127
Денормализованные числа расширяют диапазон к нулю с постепенным underflow
Машинное эпсилон для single precision равно 2^{-23} ≈ 1.19×10^{-7}
Округление по ближайшему чётному минимизирует накопление ошибок
Плавающая точка обеспечивает больший диапазон, но меньшую абсолютную точность
Формат выбирается по балансу точности и диапазона в ЭВМ
Выводы
Спасибо за внимание!
