Загрузка...

Floating point math is hard. Really, really hard.

Floating point math is not mathematics. (A+B)+C may be not equal A+(B+C). This causes problems for software developers and compiler writers. Let's take a look at what all the fuss is abous.

Instagram: https://instagram.com/TalesOfWeirdStuff/

00:00 Intro
02:29 The fixed binary point
09:37 The floating binary point
18:07 Infinity and not-a-number
21:25 Binary format
24:12 Math is broken
35:21 Fractals are broken
42:53 Closing words

Products that I use to make videos that I actually like (affiliate links):

Neewer Video Light PL60B (I really like this light!) - https://amzn.to/4mubER3

Neewer 9" Video Light NL-116AI - https://amzn.to/3W3DYi8

EVGA XR1 Pro Capture Card - https://amzn.to/3WspIAf

Synco G2 wireless microphone - https://amzn.to/4hbBQ0k

Видео Floating point math is hard. Really, really hard. канала Tales of Weird Stuff
Яндекс.Метрика
Все заметки Новая заметка Страницу в заметки
Страницу в закладки Мои закладки
На информационно-развлекательном портале SALDA.WS применяются cookie-файлы. Нажимая кнопку Принять, вы подтверждаете свое согласие на их использование.
О CookiesНапомнить позжеПринять