Zadejte hledaný výraz...

Špatný výsledek při dělení / násobení

Martin
verified
rating uzivatele
(7 hodnocení)
17. 7. 2012 22:08:56
narazil sem nejspíš na bug v mysql, potřeboval bych provést dotaz:
výsledná hodnota4 má však úplně nesmyslný výsledek
když to rozdělím na:
hodnota1 a hodnota2 sou správně ale hodnota4 má zase špatný výsledek
pak sem zkusil ještě:
potom mi mysql oznámí chybu že sloupce vysledek1 a vysledek2 neexistují.
nevíte někdo jak se k potřebnému výsledku dostat?
17. 7. 2012 22:08:56
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786076
duben
verified
rating uzivatele
(49 hodnocení)
17. 7. 2012 22:46:37
Nemohl bys uvést nějaká čísla, aby bylo jasné jaké hodnoty vkládáš, co ti vyleze a co je tam špatně proti tomu co očekáváš?
17. 7. 2012 22:46:37
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786075
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
17. 7. 2012 22:48:28
co na první příkladu počítá špatně? zkusil jsem tabulku
h1,h2,h3
1,2,3
1,2,3
výsledek je 400, což je správně
17. 7. 2012 22:48:28
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786074
Martin
verified
rating uzivatele
(7 hodnocení)
17. 7. 2012 23:25:21
hodnota1 je double, 2 a 3 jsou integer. možná je problém v tom
17. 7. 2012 23:25:21
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786073
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
17. 7. 2012 23:35:38
Napsal stix;820406
hodnota1 je double, 2 a 3 jsou integer. možná je problém v tom
no za určitých okolností ano, ale ne když je sčítáš
17. 7. 2012 23:35:38
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786072
Martin
verified
rating uzivatele
(7 hodnocení)
17. 7. 2012 23:42:22
no sčítám právě 2 a 3 který sou integer a potom se to dělí a násobí s 1 která je double. dá se to nějak obejít abych dostal správný výsledek?
17. 7. 2012 23:42:22
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786071
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
17. 7. 2012 23:43:42
Napsal stix;820411
no sčítám právě 2 a 3 který sou integer a potom se to dělí a násobí s 1 která je double. dá se to nějak obejít abych dostal správný výsledek?
když neuvedeš příklad, tak se asi dál nepohneme. zkoušel jsem to a je to v pořádku
17. 7. 2012 23:43:42
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786070
Martin
verified
rating uzivatele
(7 hodnocení)
17. 7. 2012 23:43:54
zkouším ještě novější verzi mysql, potom tu kdyžtak hodím ukázkovou tabulku s hodnotama
17. 7. 2012 23:43:54
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786069
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
17. 7. 2012 23:44:30
tak dej jen prvních 10 řádků
17. 7. 2012 23:44:30
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786068
Martin
verified
rating uzivatele
(7 hodnocení)
17. 7. 2012 23:53:52
tabulka pro test:
17. 7. 2012 23:53:52
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786067
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
17. 7. 2012 23:56:52
vychází to na chlup stejně jako v MS Excelu
EDIT: zádrhel je v
CREATE TABLE `test` (
`id` mediumint(8) unsigned NOT NULL AUTO_INCREMENT,
`hodnota1` double(15,3) DEFAULT NULL,
`hodnota2` int(11) DEFAULT NULL,
`hodnota3` int(11) DEFAULT NULL,
PRIMARY KEY (`id`)
) ENGINE=MyISAM AUTO_INCREMENT=103 DEFAULT CHARSET=latin1;
17. 7. 2012 23:56:52
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786066
Martin
verified
rating uzivatele
(7 hodnocení)
18. 7. 2012 00:01:09
kdyz si sečtete hodnoty zvlášt a vydělíte, vynásobíte na kalkulačce tak je výsledek 25,42018284106888
ty tři sql dotazy co sem tu uváděl spočítají:
sql1: 1566.4834886234657
sql2: 226.1297226093787
sql3: #1054 - Unknown column 'vysledek1' in 'field list'
18. 7. 2012 00:01:09
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786065
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
18. 7. 2012 00:02:43
když si to vynásobím na kalkulačce dle vzorce SUM((hodnota1/(hodnota2+hodnota3))*1000), tak to vychází 1566.4834886234657, což je správný výsledek
18. 7. 2012 00:02:43
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786064
Martin
verified
rating uzivatele
(7 hodnocení)
18. 7. 2012 00:03:13
takže dobule(15,3) to vyřeší? mohl bych bližší detail jak to funguje / v čem je bez toho problém?
18. 7. 2012 00:03:13
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786063
Petr Zachrdla
verified
rating uzivatele
(1 hodnocení)
18. 7. 2012 00:03:50
vždyť ti to počítá správně
EDIT: resp. jinak. co chceš spočítat, ať tu nejsme celou noc
18. 7. 2012 00:03:50
https://webtrh.cz/diskuse/spatny-vysledek-pri-deleni-nasobeni/#reply786062
Pro odpověď se přihlašte.
Přihlásit