当前位置: 技术问答>linux和unix
关于tcl程序数据运算问题
来源: 互联网 发布时间:2016-03-03
本文导语: 怎么运行大整数运算问题。 在装好tcl的主机上逐一运行: statistics:rept>tclsh % % set a 0 0 % set b 5751475063 5751475063 % % set c [expr $a+$b] integer value too large to represent % 怎么办,0 加上 5751475063 会报错。他认为...
怎么运行大整数运算问题。
在装好tcl的主机上逐一运行:
statistics:rept>tclsh
%
% set a 0
0
% set b 5751475063
5751475063
%
% set c [expr $a+$b]
integer value too large to represent
%
怎么办,0 加上 5751475063 会报错。他认为是integer型数据。
怎么样转换成浮点型数据,然后结果赋值给 c
就这么一个简单的问题。烦死了,怎么搞搞不出来,help 各位,help......
在装好tcl的主机上逐一运行:
statistics:rept>tclsh
%
% set a 0
0
% set b 5751475063
5751475063
%
% set c [expr $a+$b]
integer value too large to represent
%
怎么办,0 加上 5751475063 会报错。他认为是integer型数据。
怎么样转换成浮点型数据,然后结果赋值给 c
就这么一个简单的问题。烦死了,怎么搞搞不出来,help 各位,help......
|
你是什么系统啊,在我这里set b 5751475063后面再多加几个0都没问题,当然太大了也不行。
你也可以强制用浮点:
% set a 1.0
1.0
% set b 57514750630000.0
57514750630000.0
% set c [expr $a+$b]
5.751475063e+13
你也可以强制用浮点:
% set a 1.0
1.0
% set b 57514750630000.0
57514750630000.0
% set c [expr $a+$b]
5.751475063e+13