<div>Waldek,</div>
<div> </div>
<div>Sure, 48 bits vs 64 bits. Why didn't it truncate the mantissa on conversion to float, ie, b := maxint?</div>
<div>I would have expected something like zeros on the right side.</div>
<div> </div>
<div>Thanks,</div>
<div> </div>
<div>Scott</div>
<div> </div>
<blockquote class="threadBlockQuote" style="border-left: 2px solid #C2C2C2; padding-left: 3px; margin-left: 4px;">--------- Original Message ---------
<div>Subject: Floating point<br />From: "Waldek Hebisch" <hebisch@math.uni.wroc.pl><br />Date: 8/31/20 7:58 pm<br />To: "gpc@gnu.de" <gpc@gnu.de><br /><br />On Mon, Aug 31, 2020 at 01:07:42PM -0700, scott andrew franco wrote:<br /> > samiam@samiam-home-pc:~/projects/pascal/pascal-p5$ cat test.pas<br /> > program test(output);<br /> > var b,c: real;<br /> > begin<br /> > b := maxint;<br /> > c := 10.0;<br /> > b := b+c;<br /> > writeln(b:40:1);<br /> > writeln(maxint:38);<br /> > end.<br /> > samiam@samiam-home-pc:~/projects/pascal/pascal-p5$ gpc -o test test.pas<br /> > samiam@samiam-home-pc:~/projects/pascal/pascal-p5$ ./test<br /> > 9223372036854775808.0<br /> > 9223372036854775807<br /> <br /> Note that floating point results are approximate and on<br /> 64-bit machines real accuracy is lower than integer<br /> accuracy.<br /> <br /> -- <br /> Waldek Hebisch<br /> <br /> _______________________________________________<br /> Gpc mailing list<br /> Gpc@gnu.de<br /> https://www.g-n-u.de/mailman/listinfo/gpc</div>
</blockquote>