|
|
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
Простейший код: Dim d, f, g As Double d = Application.WorksheetFunction.Sum(Range(Cells(1, 2), Cells(1, 10))) 'в отладчике = 0.075 f = 0.075 g = Cells(1, 1).Value 'в отладчике = 0.075 If d > f Then MsgBox "" End If If d > g Then MsgBox "" End If Оба условия выполняются!! Хотя в обоих случаях в отладчике видно, что d= 0.075. В чем проблема? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 12:00 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
проверьте: Код: plaintext 1. 2. 3. 4. 5. В чем проблема?в округлении чисел с плавающей запятой PS а переменные d и f - вообще variant (вы в курсе?) ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 12:06 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
Вы правы. Если для переменной d использовать округление то все ок. d=Round(Application.WorksheetFunction.Sum(Range(Cells(1, 2), Cells(1, 10))),3) Но почему в отладчике, в watch том же, все 3 переменные показываются с одинаковым типом и значением? Чтобы жить было веселее? ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 13:26 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
балбес111, про watch не знаю - а вообще, при работе с single/double (если эти типы действительно нужны) общее правило - cм. FAQ, Q19, A1 чтобы стало еще веселее - введите в ячейку Экселя =(0,8-(0,7+0,1))*10^17 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 13:37 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
Спасибо! ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 13:50 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
qwrqwr_введите в ячейку Экселя =(0,8-(0,7+0,1))*10^17 Прикольно... Это только с этими числами ? С другими считает правильно и возвращает 0... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 14:42 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
=(0.9-(0.6+0.3))*10^17 ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 14:43 |
|
||
|
туплю WorksheetFunction.Sum
|
|||
|---|---|---|---|
|
#18+
весело... ... |
|||
|
:
Нравится:
Не нравится:
|
|||
| 17.09.2009, 15:33 |
|
||
|
|
start [/forum/topic.php?fid=61&fpage=185&tid=2179050]: |
0ms |
get settings: |
10ms |
get forum list: |
13ms |
check forum access: |
3ms |
check topic access: |
3ms |
track hit: |
55ms |
get topic data: |
8ms |
get forum data: |
2ms |
get page messages: |
30ms |
get tp. blocked users: |
2ms |
| others: | 224ms |
| total: | 350ms |
| 0 / 0 |
