Code coverage tests

This page documents the degree to which the PARI/GP source code is tested by our public test suite, distributed with the source distribution in directory src/test/. This is measured by the gcov utility; we then process gcov output using the lcov frond-end.

We test a few variants depending on Configure flags on the pari.math.u-bordeaux.fr machine (x86_64 architecture), and agregate them in the final report:

The target is to exceed 90% coverage for all mathematical modules (given that branches depending on DEBUGLEVEL or DEBUGMEM are not covered). This script is run to produce the results below.

LCOV - code coverage report
Current view: top level - basemath - base1.c (source / functions) Hit Total Coverage
Test: PARI/GP v2.12.1 lcov report (development 24988-2584e74448) Lines: 1568 1642 95.5 %
Date: 2020-01-26 05:57:03 Functions: 121 137 88.3 %
Legend: Lines: hit not hit

          Line data    Source code
       1             : /* Copyright (C) 2000  The PARI group.
       2             : 
       3             : This file is part of the PARI/GP package.
       4             : 
       5             : PARI/GP is free software; you can redistribute it and/or modify it under the
       6             : terms of the GNU General Public License as published by the Free Software
       7             : Foundation. It is distributed in the hope that it will be useful, but WITHOUT
       8             : ANY WARRANTY WHATSOEVER.
       9             : 
      10             : Check the License for details. You should have received a copy of it, along
      11             : with the package; see the file 'COPYING'. If not, write to the Free Software
      12             : Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA 02110-1301 USA. */
      13             : 
      14             : /**************************************************************/
      15             : /*                                                            */
      16             : /*                        NUMBER FIELDS                       */
      17             : /*                                                            */
      18             : /**************************************************************/
      19             : #include "pari.h"
      20             : #include "paripriv.h"
      21             : 
      22             : int new_galois_format = 0;
      23             : 
      24             : /* v a t_VEC, lg(v) = 13, sanity check for true rnf */
      25             : static int
      26      270984 : v13checkrnf(GEN v)
      27      270984 : { return typ(gel(v,6)) == t_VEC; }
      28             : static int
      29        9247 : rawcheckbnf(GEN v) { return typ(v)==t_VEC && lg(v)==11; }
      30             : static int
      31        9618 : rawchecknf(GEN v) { return typ(v)==t_VEC && lg(v)==10; }
      32             : /* v a t_VEC, lg(v) = 11, sanity check for true bnf */
      33             : static int
      34        2751 : v11checkbnf(GEN v) { return rawchecknf(bnf_get_nf(v)); }
      35             : /* v a t_VEC, lg(v) = 10, sanity check for true nf */
      36             : static int
      37       38682 : v10checknf(GEN v) { return typ(gel(v,1))==t_POL; }
      38             : /* v a t_VEC, lg(v) = 9, sanity check for true gal */
      39             : static int
      40         637 : v9checkgal(GEN v)
      41         637 : { GEN x = gel(v,2); return typ(x) == t_VEC && lg(x) == 4; }
      42             : 
      43             : int
      44      275695 : checkrnf_i(GEN rnf)
      45      275695 : { return (typ(rnf)==t_VEC && lg(rnf)==13 && v13checkrnf(rnf)); }
      46             : 
      47             : void
      48      270410 : checkrnf(GEN rnf)
      49      270410 : { if (!checkrnf_i(rnf)) pari_err_TYPE("checkrnf",rnf); }
      50             : 
      51             : GEN
      52     1248803 : checkbnf_i(GEN X)
      53             : {
      54     1248803 :   if (typ(X) == t_VEC)
      55     1248299 :     switch (lg(X))
      56             :     {
      57             :       case 11:
      58     1245240 :         if (typ(gel(X,6)) != t_INT) return NULL; /* pre-2.2.4 format */
      59     1245240 :         if (lg(gel(X,10)) != 4) return NULL; /* pre-2.8.1 format */
      60     1245240 :         return X;
      61        2324 :       case 7: return checkbnf_i(bnr_get_bnf(X));
      62             :     }
      63        1239 :   return NULL;
      64             : }
      65             : 
      66             : GEN
      67    56391406 : checknf_i(GEN X)
      68             : {
      69    56391406 :   if (typ(X)==t_VEC)
      70    56390871 :     switch(lg(X))
      71             :     {
      72    56151258 :       case 10: return X;
      73      235143 :       case 11: return checknf_i(bnf_get_nf(X));
      74        1092 :       case 7:  return checknf_i(bnr_get_bnf(X));
      75        1708 :       case 3: if (typ(gel(X,2)) == t_POLMOD) return checknf_i(gel(X,1));
      76             :     }
      77        3906 :   return NULL;
      78             : }
      79             : 
      80             : GEN
      81     1245051 : checkbnf(GEN x)
      82             : {
      83     1245051 :   GEN bnf = checkbnf_i(x);
      84     1245051 :   if (!bnf) pari_err_TYPE("checkbnf [please apply bnfinit()]",x);
      85     1245044 :   return bnf;
      86             : }
      87             : 
      88             : GEN
      89    55449448 : checknf(GEN x)
      90             : {
      91    55449448 :   GEN nf = checknf_i(x);
      92    55449413 :   if (!nf) pari_err_TYPE("checknf [please apply nfinit()]",x);
      93    55449375 :   return nf;
      94             : }
      95             : 
      96             : void
      97      489726 : checkbnr(GEN bnr)
      98             : {
      99      489726 :   if (typ(bnr)!=t_VEC || lg(bnr)!=7)
     100           7 :     pari_err_TYPE("checkbnr [please apply bnrinit()]",bnr);
     101      489719 :   (void)checkbnf(bnr_get_bnf(bnr));
     102      489712 : }
     103             : 
     104             : void
     105           0 : checkbnrgen(GEN bnr)
     106             : {
     107           0 :   checkbnr(bnr);
     108           0 :   if (lg(bnr_get_clgp(bnr))<=3)
     109           0 :     pari_err_TYPE("checkbnrgen [apply bnrinit(,,1), not bnrinit()]",bnr);
     110           0 : }
     111             : 
     112             : void
     113           0 : checksqmat(GEN x, long N)
     114             : {
     115           0 :   if (typ(x)!=t_MAT) pari_err_TYPE("checksqmat",x);
     116           0 :   if (lg(x) == 1 || lgcols(x) != N+1) pari_err_DIM("checksqmat");
     117           0 : }
     118             : 
     119             : GEN
     120      341591 : checkbid_i(GEN bid)
     121             : {
     122             :   GEN f;
     123      341591 :   if (typ(bid)!=t_VEC || lg(bid)!=6 || typ(bid_get_U(bid)) != t_VEC)
     124       44296 :     return NULL;
     125      297295 :   f = bid_get_mod(bid);
     126      297295 :   if (typ(f)!=t_VEC || lg(f)!=3) return NULL;
     127      297295 :   return bid;
     128             : }
     129             : void
     130      297295 : checkbid(GEN bid)
     131             : {
     132      297295 :   if (!checkbid_i(bid)) pari_err_TYPE("checkbid",bid);
     133      297288 : }
     134             : void
     135       17374 : checkabgrp(GEN v)
     136             : {
     137       17374 :   if (typ(v) == t_VEC) switch(lg(v))
     138             :   {
     139       17262 :     case 4: if (typ(gel(v,3)) != t_VEC) break;
     140       17374 :     case 3: if (typ(gel(v,2)) != t_VEC) break;
     141       17346 :             if (typ(gel(v,1)) != t_INT) break;
     142       17346 :             return;/*OK*/
     143           0 :     default: break;
     144             :   }
     145          28 :   pari_err_TYPE("checkabgrp",v);
     146             : }
     147             : 
     148             : GEN
     149      194189 : checknfelt_mod(GEN nf, GEN x, const char *s)
     150             : {
     151      194189 :   GEN T = gel(x,1), a = gel(x,2), Tnf = nf_get_pol(nf);
     152      194186 :   if (!RgX_equal_var(T, Tnf)) pari_err_MODULUS(s, T, Tnf);
     153      194143 :   return a;
     154             : }
     155             : 
     156             : void
     157        9352 : check_ZKmodule(GEN x, const char *s)
     158             : {
     159        9352 :   if (typ(x) != t_VEC || lg(x) < 3) pari_err_TYPE(s,x);
     160        9352 :   if (typ(gel(x,1)) != t_MAT) pari_err_TYPE(s,gel(x,1));
     161        9352 :   if (typ(gel(x,2)) != t_VEC) pari_err_TYPE(s,gel(x,2));
     162        9352 :   if (lg(gel(x,2)) != lgcols(x)) pari_err_DIM(s);
     163        9352 : }
     164             : 
     165             : static long
     166      110649 : typv6(GEN x)
     167             : {
     168      110649 :   if (typ(gel(x,1)) == t_VEC && lg(gel(x,3)) == 3)
     169             :   {
     170       12544 :     GEN t = gel(x,3);
     171       12544 :     if (typ(t) != t_VEC) return typ_NULL;
     172       12544 :     t = gel(x,5);
     173       12544 :     switch(typ(gel(x,5)))
     174             :     {
     175         378 :       case t_VEC: return typ_BID;
     176       12166 :       case t_MAT: return typ_BIDZ;
     177           0 :       default: return typ_NULL;
     178             :     }
     179             :   }
     180       98105 :   if (typ(gel(x,2)) == t_COL && typ(gel(x,3)) == t_INT) return typ_PRID;
     181         196 :   return typ_NULL;
     182             : }
     183             : 
     184             : GEN
     185       19341 : get_bnf(GEN x, long *t)
     186             : {
     187       19341 :   switch(typ(x))
     188             :   {
     189          56 :     case t_POL: *t = typ_POL;  return NULL;
     190          56 :     case t_QUAD: *t = typ_Q  ; return NULL;
     191             :     case t_VEC:
     192       18725 :       switch(lg(x))
     193             :       {
     194        4445 :         case 5: if (typ(gel(x,1)) != t_INT) break;
     195        4389 :                 *t = typ_QUA; return NULL;
     196        6132 :         case 6: *t = typv6(x); return NULL;
     197         161 :         case 7:  *t = typ_BNR;
     198         161 :           x = bnr_get_bnf(x);
     199         161 :           if (!rawcheckbnf(x)) break;
     200         105 :           return x;
     201             :         case 9:
     202          77 :           if (!v9checkgal(x)) break;
     203          77 :           *t = typ_GAL; return NULL;
     204             :         case 10:
     205         392 :           if (!v10checknf(x)) break;
     206         392 :           *t = typ_NF; return NULL;
     207             :         case 11:
     208         336 :           if (!v11checkbnf(x)) break;
     209         336 :           *t = typ_BNF; return x;
     210             :         case 13:
     211          56 :           if (!v13checkrnf(x)) break;
     212          56 :           *t = typ_RNF; return NULL;
     213         266 :         case 17: *t = typ_ELL; return NULL;
     214             :       }
     215        6972 :       break;
     216             :     case t_COL:
     217         112 :       if (get_prid(x)) { *t = typ_MODPR; return NULL; }
     218          56 :       break;
     219             :   }
     220        7420 :   *t = typ_NULL; return NULL;
     221             : }
     222             : 
     223             : GEN
     224      114821 : get_nf(GEN x, long *t)
     225             : {
     226      114821 :   switch(typ(x))
     227             :   {
     228         133 :     case t_POL : *t = typ_POL; return NULL;
     229         133 :     case t_QUAD: *t = typ_Q  ; return NULL;
     230             :     case t_VEC:
     231      111888 :       switch(lg(x))
     232             :       {
     233             :         case 3:
     234         133 :           if (typ(gel(x,2)) != t_POLMOD) break;
     235         133 :           return get_nf(gel(x,1),t);
     236             :         case 5:
     237         266 :           if (typ(gel(x,1)) != t_INT) break;
     238         133 :           *t = typ_QUA; return NULL;
     239       98945 :         case 6: *t = typv6(x); return NULL;
     240             :         case 7:
     241        6804 :           x = bnr_get_bnf(x);
     242        6804 :           if (!rawcheckbnf(x) || !rawchecknf(x = bnf_get_nf(x))) break;
     243        6671 :           *t = typ_BNR; return x;
     244             :         case 9:
     245         553 :           if (!v9checkgal(x)) break;
     246         553 :           *t = typ_GAL; return NULL;
     247             :         case 10:
     248        1043 :           if (!v10checknf(x)) break;
     249        1043 :           *t = typ_NF; return x;
     250             :         case 11:
     251         196 :           if (!rawchecknf(x = bnf_get_nf(x))) break;
     252         196 :           *t = typ_BNF; return x;
     253             :         case 13:
     254         350 :           if (!v13checkrnf(x)) break;
     255         350 :           *t = typ_RNF; return NULL;
     256        3465 :         case 17: *t = typ_ELL; return NULL;
     257             :       }
     258         399 :       break;
     259             :     case t_COL:
     260         266 :       if (get_prid(x)) { *t = typ_MODPR; return NULL; }
     261         133 :       break;
     262             :   }
     263        2933 :   *t = typ_NULL; return NULL;
     264             : }
     265             : 
     266             : long
     267       45479 : nftyp(GEN x)
     268             : {
     269       45479 :   switch(typ(x))
     270             :   {
     271          21 :     case t_POL : return typ_POL;
     272           7 :     case t_QUAD: return typ_Q;
     273             :     case t_VEC:
     274       45444 :       switch(lg(x))
     275             :       {
     276             :         case 13:
     277         161 :           if (!v13checkrnf(x)) break;
     278         161 :           return typ_RNF;
     279             :         case 10:
     280       37247 :           if (!v10checknf(x)) break;
     281       37240 :           return typ_NF;
     282             :         case 11:
     283         147 :           if (!v11checkbnf(x)) break;
     284         147 :           return typ_BNF;
     285             :         case 7:
     286        2282 :           x = bnr_get_bnf(x);
     287        2282 :           if (!rawcheckbnf(x) || !v11checkbnf(x)) break;
     288        2268 :           return typ_BNR;
     289             :         case 6:
     290        5572 :           return typv6(x);
     291             :         case 9:
     292           7 :           if (!v9checkgal(x)) break;
     293           0 :           return typ_GAL;
     294           7 :         case 17: return typ_ELL;
     295             :       }
     296             :   }
     297          56 :   return typ_NULL;
     298             : }
     299             : 
     300             : /*************************************************************************/
     301             : /**                                                                     **/
     302             : /**                           GALOIS GROUP                              **/
     303             : /**                                                                     **/
     304             : /*************************************************************************/
     305             : 
     306             : GEN
     307        3178 : tschirnhaus(GEN x)
     308             : {
     309        3178 :   pari_sp av = avma, av2;
     310        3178 :   long a, v = varn(x);
     311        3178 :   GEN u, y = cgetg(5,t_POL);
     312             : 
     313        3178 :   if (typ(x)!=t_POL) pari_err_TYPE("tschirnhaus",x);
     314        3178 :   if (lg(x) < 4) pari_err_CONSTPOL("tschirnhaus");
     315        3178 :   if (v) { u = leafcopy(x); setvarn(u,0); x=u; }
     316        3178 :   y[1] = evalsigne(1)|evalvarn(0);
     317             :   do
     318             :   {
     319        3276 :     a = random_bits(2); if (a==0) a  = 1; gel(y,4) = stoi(a);
     320        3276 :     a = random_bits(3); if (a>=4) a -= 8; gel(y,3) = stoi(a);
     321        3276 :     a = random_bits(3); if (a>=4) a -= 8; gel(y,2) = stoi(a);
     322        3276 :     u = RgXQ_charpoly(y,x,v); av2 = avma;
     323             :   }
     324        3276 :   while (degpol(RgX_gcd(u,RgX_deriv(u)))); /* while u not separable */
     325        3178 :   if (DEBUGLEVEL>1)
     326           0 :     err_printf("Tschirnhaus transform. New pol: %Ps",u);
     327        3178 :   set_avma(av2); return gerepileupto(av,u);
     328             : }
     329             : 
     330             : /* Assume pol in Z[X], monic of degree n. Find L in Z such that
     331             :  * POL = L^(-n) pol(L x) is monic in Z[X]. Return POL and set *ptk = L.
     332             :  * No GC. */
     333             : GEN
     334       26733 : ZX_Z_normalize(GEN pol, GEN *ptk)
     335             : {
     336       26733 :   long i,j, sk, n = degpol(pol); /* > 0 */
     337             :   GEN k, fa, P, E, a, POL;
     338             : 
     339       26733 :   if (ptk) *ptk = gen_1;
     340       26733 :   if (!n) return pol;
     341       26726 :   a = pol + 2; k = gel(a,n-1); /* a[i] = coeff of degree i */
     342       71988 :   for (i = n-2; i >= 0; i--)
     343             :   {
     344       61852 :     k = gcdii(k, gel(a,i));
     345       61852 :     if (is_pm1(k)) return pol;
     346             :   }
     347       10136 :   sk = signe(k);
     348       10136 :   if (!sk) return pol; /* monomial! */
     349        8729 :   fa = absZ_factor_limit(k, 0); k = gen_1;
     350        8729 :   P = gel(fa,1);
     351        8729 :   E = gel(fa,2);
     352        8729 :   POL = leafcopy(pol); a = POL+2;
     353       20839 :   for (i = lg(P)-1; i > 0; i--)
     354             :   {
     355       12110 :     GEN p = gel(P,i), pv, pvj;
     356       12110 :     long vmin = itos(gel(E,i));
     357             :     /* find v_p(k) = min floor( v_p(a[i]) / (n-i)) */
     358       61614 :     for (j=n-1; j>=0; j--)
     359             :     {
     360             :       long v;
     361       49504 :       if (!signe(gel(a,j))) continue;
     362       29093 :       v = Z_pval(gel(a,j), p) / (n - j);
     363       29093 :       if (v < vmin) vmin = v;
     364             :     }
     365       12110 :     if (!vmin) continue;
     366        1519 :     pvj = pv = powiu(p,vmin); k = mulii(k, pv);
     367             :     /* a[j] /= p^(v*(n-j)) */
     368        9807 :     for (j=n-1; j>=0; j--)
     369             :     {
     370        8288 :       if (j < n-1) pvj = mulii(pvj, pv);
     371        8288 :       gel(a,j) = diviiexact(gel(a,j), pvj);
     372             :     }
     373             :   }
     374        8729 :   if (ptk) *ptk = k;
     375        8729 :   return POL;
     376             : }
     377             : 
     378             : /* Assume pol != 0 in Z[X]. Find C in Q, L in Z such that POL = C pol(x/L) monic
     379             :  * in Z[X]. Return POL and set *pL = L. Wasteful (but correct) if pol is not
     380             :  * primitive: better if caller used Q_primpart already. No GC. */
     381             : GEN
     382       26474 : ZX_primitive_to_monic(GEN pol, GEN *pL)
     383             : {
     384       26474 :   long i,j, n = degpol(pol);
     385       26474 :   GEN lc = leading_coeff(pol), L, fa, P, E, a, POL;
     386             : 
     387       26474 :   if (is_pm1(lc))
     388             :   {
     389       26173 :     if (pL) *pL = gen_1;
     390       26173 :     return signe(lc) < 0? ZX_neg(pol): pol;
     391             :   }
     392         301 :   if (signe(lc) < 0)
     393          35 :     POL = ZX_neg(pol);
     394             :   else
     395         266 :     POL = leafcopy(pol);
     396         301 :   a = POL+2; lc = gel(a,n);
     397         301 :   fa = Z_factor_limit(lc,0); L = gen_1;
     398         301 :   P = gel(fa,1);
     399         301 :   E = gel(fa,2);
     400         735 :   for (i = lg(P)-1; i > 0; i--)
     401             :   {
     402         434 :     GEN p = gel(P,i), pk, pku;
     403         434 :     long v, j0, e = itos(gel(E,i)), k = e/n, d = k*n - e;
     404             : 
     405         434 :     if (d < 0) { k++; d += n; }
     406             :     /* k = ceil(e[i] / n); find d, k such that  p^d pol(x / p^k) monic */
     407        1757 :     for (j=n-1; j>0; j--)
     408             :     {
     409        1323 :       if (!signe(gel(a,j))) continue;
     410        1071 :       v = Z_pval(gel(a,j), p);
     411        1071 :       while (v + d < k * j) { k++; d += n; }
     412             :     }
     413         434 :     pk = powiu(p,k); j0 = d/k;
     414         434 :     L = mulii(L, pk);
     415             : 
     416         434 :     pku = powiu(p,d - k*j0);
     417             :     /* a[j] *= p^(d - kj) */
     418        1897 :     for (j=j0; j>=0; j--)
     419             :     {
     420        1463 :       if (j < j0) pku = mulii(pku, pk);
     421        1463 :       gel(a,j) = mulii(gel(a,j), pku);
     422             :     }
     423         434 :     j0++;
     424         434 :     pku = powiu(p,k*j0 - d);
     425             :     /* a[j] /= p^(kj - d) */
     426        1162 :     for (j=j0; j<=n; j++)
     427             :     {
     428         728 :       if (j > j0) pku = mulii(pku, pk);
     429         728 :       gel(a,j) = diviiexact(gel(a,j), pku);
     430             :     }
     431             :   }
     432         301 :   if (pL) *pL = L;
     433         301 :   return POL;
     434             : }
     435             : /* Assume pol != 0 in Z[X]. Find C,L in Q such that POL = C pol(x/L)
     436             :  * monic in Z[X]. Return POL and set *pL = L.
     437             :  * Wasteful (but correct) if pol is not primitive: better if caller used
     438             :  * Q_primpart already. No GC. */
     439             : GEN
     440       26187 : ZX_Q_normalize(GEN pol, GEN *pL)
     441             : {
     442       26187 :   GEN lc, POL = ZX_primitive_to_monic(pol, &lc);
     443       26187 :   POL = ZX_Z_normalize(POL, pL);
     444       26187 :   if (pL) *pL = gdiv(lc, *pL);
     445       26187 :   return POL;
     446             : }
     447             : 
     448             : GEN
     449     4388539 : ZX_Q_mul(GEN A, GEN z)
     450             : {
     451     4388539 :   pari_sp av = avma;
     452     4388539 :   long i, l = lg(A);
     453             :   GEN d, n, Ad, B, u;
     454     4388539 :   if (typ(z)==t_INT) return ZX_Z_mul(A,z);
     455     3840963 :   n = gel(z, 1); d = gel(z, 2);
     456     3840963 :   Ad = RgX_to_RgC(FpX_red(A, d), l-2);
     457     3840963 :   u = gcdii(d, FpV_factorback(Ad, NULL, d));
     458     3840963 :   B = cgetg(l, t_POL);
     459     3840963 :   B[1] = A[1];
     460     3840963 :   if (equali1(u))
     461             :   {
     462     3688206 :     for(i=2; i<l; i++)
     463     2390851 :       gel(B, i) = mkfrac(mulii(n, gel(A,i)), d);
     464             :   } else
     465             :   {
     466    18266588 :     for(i=2; i<l; i++)
     467             :     {
     468    15722980 :       GEN di = gcdii(gel(Ad, i-1), u);
     469    15722980 :       GEN ni = mulii(n, diviiexact(gel(A,i), di));
     470    15722980 :       if (equalii(d, di))
     471     3796487 :         gel(B, i) = ni;
     472             :       else
     473    11926493 :         gel(B, i) = mkfrac(ni, diviiexact(d, di));
     474             :     }
     475             :   }
     476     3840963 :   return gerepilecopy(av, B);
     477             : }
     478             : 
     479             : /* pol != 0 in Z[x], returns a monic polynomial POL in Z[x] generating the
     480             :  * same field: there exist C in Q, L in Z such that POL(x) = C pol(x/L).
     481             :  * Set *L = NULL if L = 1, and to L otherwise. No garbage collecting. */
     482             : GEN
     483           0 : ZX_to_monic(GEN pol, GEN *L)
     484             : {
     485           0 :   long n = lg(pol)-1;
     486           0 :   GEN lc = gel(pol,n);
     487           0 :   if (is_pm1(lc)) { *L = gen_1; return signe(lc) > 0? pol: ZX_neg(pol); }
     488           0 :   return ZX_primitive_to_monic(Q_primpart(pol), L);
     489             : }
     490             : 
     491             : /* Evaluate pol in s using nfelt arithmetic and Horner rule */
     492             : GEN
     493       11151 : nfpoleval(GEN nf, GEN pol, GEN s)
     494             : {
     495       11151 :   pari_sp av=avma;
     496       11151 :   long i=lg(pol)-1;
     497             :   GEN res;
     498       11151 :   if (i==1) return gen_0;
     499       11151 :   res = nf_to_scalar_or_basis(nf, gel(pol,i));
     500       27944 :   for (i-- ; i>=2; i--)
     501       16793 :     res = nfadd(nf, nfmul(nf, s, res), gel(pol,i));
     502       11151 :   return gerepileupto(av, res);
     503             : }
     504             : 
     505             : static GEN
     506       37527 : QX_table_nfpoleval(GEN nf, GEN pol, GEN m)
     507             : {
     508       37527 :   pari_sp av = avma;
     509       37527 :   long i = lg(pol)-1;
     510             :   GEN res, den;
     511       37527 :   if (i==1) return gen_0;
     512       37527 :   pol = Q_remove_denom(pol, &den);
     513       37527 :   res = scalarcol_shallow(gel(pol,i), nf_get_degree(nf));
     514      136080 :   for (i-- ; i>=2; i--)
     515       98553 :     res = ZC_Z_add(ZM_ZC_mul(m, res), gel(pol,i));
     516       37527 :   if (den) res = RgC_Rg_div(res, den);
     517       37527 :   return gerepileupto(av, res);
     518             : }
     519             : 
     520             : GEN
     521        8134 : FpX_FpC_nfpoleval(GEN nf, GEN pol, GEN a, GEN p)
     522             : {
     523        8134 :   pari_sp av=avma;
     524        8134 :   long i=lg(pol)-1, n=nf_get_degree(nf);
     525             :   GEN res, Ma;
     526        8134 :   if (i==1) return zerocol(n);
     527        8134 :   Ma = FpM_red(zk_multable(nf, a), p);
     528        8134 :   res = scalarcol(gel(pol,i),n);
     529       64162 :   for (i-- ; i>=2; i--)
     530             :   {
     531       56028 :     res = FpM_FpC_mul(Ma, res, p);
     532       56028 :     gel(res,1) = Fp_add(gel(res,1), gel(pol,i), p);
     533             :   }
     534        8134 :   return gerepileupto(av, res);
     535             : }
     536             : 
     537             : /* compute s(x), not stack clean */
     538             : static GEN
     539       37716 : ZC_galoisapply(GEN nf, GEN s, GEN x)
     540             : {
     541       37716 :   x = nf_to_scalar_or_alg(nf, x);
     542       37716 :   if (typ(x) != t_POL) return scalarcol(x, nf_get_degree(nf));
     543       37527 :   return QX_table_nfpoleval(nf, x, zk_multable(nf, s));
     544             : }
     545             : 
     546             : /* true nf; S = automorphism in basis form, return an FpC = S(z) mod p */
     547             : GEN
     548        5565 : zk_galoisapplymod(GEN nf, GEN z, GEN S, GEN p)
     549             : {
     550             :   GEN den, pe, pe1, denpe, R;
     551             : 
     552        5565 :   z = nf_to_scalar_or_alg(nf, z);
     553        5565 :   if (typ(z) != t_POL) return z;
     554        5565 :   if (gequalX(z)) return FpC_red(S, p); /* common, e.g. modpr_genFq */
     555        5187 :   z = Q_remove_denom(z,&den);
     556        5187 :   denpe = pe = NULL;
     557        5187 :   pe1 = p;
     558        5187 :   if (den)
     559             :   {
     560        4802 :     ulong e = Z_pvalrem(den, p, &den);
     561        4802 :     if (e) { pe = powiu(p, e); pe1 = mulii(pe, p); }
     562        4802 :     denpe = Fp_inv(den, pe1);
     563             :   }
     564        5187 :   R = FpX_FpC_nfpoleval(nf, FpX_red(z, pe1), FpC_red(S, pe1), pe1);
     565        5187 :   if (denpe) R = FpC_Fp_mul(R, denpe, pe1);
     566        5187 :   if (pe) R = gdivexact(R, pe);
     567        5187 :   return R;
     568             : }
     569             : 
     570             : /* true nf */
     571             : static GEN
     572           7 : pr_galoisapply(GEN nf, GEN pr, GEN aut)
     573             : {
     574             :   GEN p, t, u;
     575           7 :   if (typ(pr_get_tau(pr)) == t_INT) return pr; /* inert */
     576           7 :   p = pr_get_p(pr);
     577           7 :   u = zk_galoisapplymod(nf, pr_get_gen(pr), aut, p);
     578           7 :   t = FpM_deplin(zk_multable(nf, u), p);
     579           7 :   t = zk_scalar_or_multable(nf, t);
     580           7 :   return mkvec5(p, u, gel(pr,3), gel(pr,4), t);
     581             : }
     582             : 
     583             : static GEN
     584           7 : vecgaloisapply(GEN nf, GEN aut, GEN v)
     585             : {
     586             :   long i, l;
     587           7 :   GEN V = cgetg_copy(v, &l);
     588           7 :   for (i = 1; i < l; i++) gel(V,i) = galoisapply(nf, aut, gel(v,i));
     589           7 :   return V;
     590             : }
     591             : 
     592             : /* x: famat or standard algebraic number, aut automorphism in ZC form
     593             :  * simplified from general galoisapply */
     594             : static GEN
     595          49 : elt_galoisapply(GEN nf, GEN aut, GEN x)
     596             : {
     597          49 :   pari_sp av = avma;
     598          49 :   switch(typ(x))
     599             :   {
     600           7 :     case t_INT:  return icopy(x);
     601           7 :     case t_FRAC: return gcopy(x);
     602           7 :     case t_POLMOD: x = gel(x,2); /* fall through */
     603             :     case t_POL: {
     604          14 :       GEN y = basistoalg(nf, ZC_galoisapply(nf, aut, x));
     605          14 :       return gerepileupto(av,y);
     606             :     }
     607             :     case t_COL:
     608           7 :       return gerepileupto(av, ZC_galoisapply(nf, aut, x));
     609             :     case t_MAT:
     610          14 :       switch(lg(x)) {
     611           7 :         case 1: return cgetg(1, t_MAT);
     612           7 :         case 3: retmkmat2(vecgaloisapply(nf,aut,gel(x,1)), ZC_copy(gel(x,2)));
     613             :       }
     614             :   }
     615           0 :   pari_err_TYPE("galoisapply",x);
     616             :   return NULL; /* LCOV_EXCL_LINE */
     617             : }
     618             : 
     619             : GEN
     620       69958 : galoisapply(GEN nf, GEN aut, GEN x)
     621             : {
     622       69958 :   pari_sp av = avma;
     623             :   long lx;
     624             :   GEN y;
     625             : 
     626       69958 :   nf = checknf(nf);
     627       69958 :   switch(typ(x))
     628             :   {
     629         364 :     case t_INT:  return icopy(x);
     630           7 :     case t_FRAC: return gcopy(x);
     631             : 
     632          35 :     case t_POLMOD: x = gel(x,2); /* fall through */
     633             :     case t_POL:
     634        1288 :       aut = algtobasis(nf, aut);
     635        1288 :       y = basistoalg(nf, ZC_galoisapply(nf, aut, x));
     636        1288 :       return gerepileupto(av,y);
     637             : 
     638             :     case t_VEC:
     639          56 :       aut = algtobasis(nf, aut);
     640          56 :       switch(lg(x))
     641             :       {
     642           7 :         case 6: return gerepilecopy(av, pr_galoisapply(nf, x, aut));
     643          49 :         case 3: y = cgetg(3,t_VEC);
     644          49 :           gel(y,1) = galoisapply(nf, aut, gel(x,1));
     645          49 :           gel(y,2) = elt_galoisapply(nf, aut, gel(x,2));
     646          49 :           return gerepileupto(av, y);
     647             :       }
     648           0 :       break;
     649             : 
     650             :     case t_COL:
     651       31290 :       aut = algtobasis(nf, aut);
     652       31290 :       return gerepileupto(av, ZC_galoisapply(nf, aut, x));
     653             : 
     654             :     case t_MAT: /* ideal */
     655       36953 :       lx = lg(x); if (lx==1) return cgetg(1,t_MAT);
     656       36953 :       if (nbrows(x) != nf_get_degree(nf)) break;
     657       36953 :       y = RgM_mul(nfgaloismatrix(nf,aut), x);
     658       36953 :       return gerepileupto(av, idealhnf_shallow(nf,y));
     659             :   }
     660           0 :   pari_err_TYPE("galoisapply",x);
     661             :   return NULL; /* LCOV_EXCL_LINE */
     662             : }
     663             : 
     664             : /* compute action of automorphism s on nf.zk */
     665             : GEN
     666       50603 : nfgaloismatrix(GEN nf, GEN s)
     667             : {
     668       50603 :   pari_sp av2, av = avma;
     669             :   GEN zk, D, M, H, m;
     670             :   long k, n;
     671             : 
     672       50603 :   nf = checknf(nf);
     673       50603 :   zk = nf_get_zkprimpart(nf); n = lg(zk)-1;
     674       50603 :   M = cgetg(n+1, t_MAT);
     675       50603 :   gel(M,1) = col_ei(n, 1); /* s(1) = 1 */
     676       50603 :   if (n == 1) return M;
     677       50603 :   av2 = avma;
     678       50603 :   if (typ(s) != t_COL) s = algtobasis(nf, s);
     679       50603 :   D = nf_get_zkden(nf);
     680       50603 :   H = RgV_to_RgM(zk, n);
     681       50603 :   if (n == 2)
     682             :   {
     683       46326 :     GEN t = gel(H,2); /* D * s(w_2) */
     684       46326 :     t = ZC_Z_add(ZC_Z_mul(s, gel(t,2)), gel(t,1));
     685       46326 :     gel(M,2) = gerepileupto(av2, gdiv(t, D));
     686       46326 :     return M;
     687             :   }
     688        4277 :   m = zk_multable(nf, s);
     689        4277 :   gel(M,2) = s; /* M[,k] = s(x^(k-1)) */
     690        4277 :   for (k = 3; k <= n; k++) gel(M,k) = ZM_ZC_mul(m, gel(M,k-1));
     691        4277 :   M = ZM_mul(M, H);
     692        4277 :   if (!equali1(D)) M = ZM_Z_divexact(M, D);
     693        4277 :   return gerepileupto(av, M);
     694             : }
     695             : 
     696             : static GEN
     697        8022 : get_aut(GEN nf, GEN gal, GEN aut, GEN g)
     698             : {
     699        8022 :   return aut ? gel(aut, g[1]): poltobasis(nf, galoispermtopol(gal, g));
     700             : }
     701             : 
     702             : static GEN
     703        1435 : idealquasifrob(GEN nf, GEN gal, GEN grp, GEN pr, GEN subg, GEN *S, GEN aut)
     704             : {
     705        1435 :   pari_sp av = avma;
     706        1435 :   long i, n = nf_get_degree(nf), f = pr_get_f(pr);
     707        1435 :   GEN pi = pr_get_gen(pr);
     708        5439 :   for (i=1; i<=n; i++)
     709             :   {
     710        5439 :     GEN g = gel(grp,i);
     711        5439 :     if ((!subg && perm_order(g)==f)
     712        5082 :       || (subg && perm_relorder(g, subg)==f))
     713             :     {
     714        1827 :       *S = get_aut(nf, gal, aut, g);
     715        1827 :       if (ZC_prdvd(ZC_galoisapply(nf, *S, pi), pr)) return g;
     716         392 :       set_avma(av);
     717             :     }
     718             :   }
     719           0 :   pari_err_BUG("idealquasifrob [Frobenius not found]");
     720             :   return NULL; /*LCOV_EXCL_LINE*/
     721             : }
     722             : 
     723             : GEN
     724        1379 : nfgaloispermtobasis(GEN nf, GEN gal)
     725             : {
     726        1379 :   GEN grp = gal_get_group(gal);
     727        1379 :   long i, n = lg(grp)-1;
     728        1379 :   GEN aut = cgetg(n+1, t_VEC);
     729       15323 :   for(i=1; i<=n; i++)
     730             :   {
     731       13944 :     pari_sp av = avma;
     732       13944 :     GEN g = gel(grp, i);
     733       13944 :     GEN vec = poltobasis(nf, galoispermtopol(gal, g));
     734       13944 :     gel(aut, g[1]) = gerepileupto(av, vec);
     735             :   }
     736        1379 :   return aut;
     737             : }
     738             : 
     739             : static void
     740        2457 : gal_check_pol(const char *f, GEN x, GEN y)
     741        2457 : { if (!RgX_equal_var(x,y)) pari_err_MODULUS(f,x,y); }
     742             : 
     743             : /* true nf */
     744             : GEN
     745          56 : idealfrobenius_aut(GEN nf, GEN gal, GEN pr, GEN aut)
     746             : {
     747          56 :   pari_sp av = avma;
     748          56 :   GEN S=NULL, g=NULL; /*-Wall*/
     749             :   GEN T, p, a, b, modpr;
     750             :   long f, n, s;
     751          56 :   f = pr_get_f(pr); n = nf_get_degree(nf);
     752          56 :   if (f==1) { set_avma(av); return identity_perm(n); }
     753          56 :   g = idealquasifrob(nf, gal, gal_get_group(gal), pr, NULL, &S, aut);
     754          56 :   if (f==2) return gerepileuptoleaf(av, g);
     755          21 :   modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     756          21 :   a = pol_x(nf_get_varn(nf));
     757          21 :   b = nf_to_Fq(nf, zk_galoisapplymod(nf, modpr_genFq(modpr), S, p), modpr);
     758          42 :   for (s = 1; s < f-1; s++)
     759             :   {
     760          21 :     a = Fq_pow(a, p, T, p);
     761          21 :     if (ZX_equal(a, b)) break;
     762             :   }
     763          21 :   g = perm_pow(g, Fl_inv(s, f));
     764          21 :   return gerepileupto(av, g);
     765             : }
     766             : 
     767             : GEN
     768          63 : idealfrobenius(GEN nf, GEN gal, GEN pr)
     769             : {
     770          63 :   nf = checknf(nf);
     771          63 :   checkgal(gal);
     772          63 :   checkprid(pr);
     773          63 :   gal_check_pol("idealfrobenius",nf_get_pol(nf),gal_get_pol(gal));
     774          63 :   if (pr_get_e(pr)>1) pari_err_DOMAIN("idealfrobenius","pr.e", ">", gen_1,pr);
     775          56 :   return idealfrobenius_aut(nf, gal, pr, NULL);
     776             : }
     777             : 
     778             : /* true nf */
     779             : GEN
     780         616 : idealramfrobenius_aut(GEN nf, GEN gal, GEN pr, GEN ram, GEN aut)
     781             : {
     782         616 :   pari_sp av = avma;
     783         616 :   GEN S=NULL, g=NULL; /*-Wall*/
     784             :   GEN T, p, a, b, modpr;
     785             :   GEN isog, deco;
     786             :   long f, n, s;
     787         616 :   f = pr_get_f(pr); n = nf_get_degree(nf);
     788         616 :   if (f==1) { set_avma(av); return identity_perm(n); }
     789         399 :   modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     790         399 :   deco = group_elts(gel(ram,1), nf_get_degree(nf));
     791         399 :   isog = group_set(gel(ram,2),  nf_get_degree(nf));
     792         399 :   g = idealquasifrob(nf, gal, deco, pr, isog, &S, aut);
     793         399 :   a = pol_x(nf_get_varn(nf));
     794         399 :   b = nf_to_Fq(nf, zk_galoisapplymod(nf, modpr_genFq(modpr), S, p), modpr);
     795         854 :   for (s=0; !ZX_equal(a, b); s++)
     796         455 :     a = Fq_pow(a, p, T, p);
     797         399 :   g = perm_pow(g, Fl_inv(s, f));
     798         399 :   return gerepileupto(av, g);
     799             : }
     800             : 
     801             : GEN
     802           0 : idealramfrobenius(GEN nf, GEN gal, GEN pr, GEN ram)
     803             : {
     804           0 :   return idealramfrobenius_aut(nf, gal, pr, ram, NULL);
     805             : }
     806             : 
     807             : static GEN
     808        1834 : idealinertiagroup(GEN nf, GEN gal, GEN aut, GEN pr)
     809             : {
     810        1834 :   long i, n = nf_get_degree(nf);
     811        1834 :   GEN p, T, modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     812        1834 :   GEN b = modpr_genFq(modpr);
     813        1834 :   long e = pr_get_e(pr), coprime = ugcd(e, pr_get_f(pr)) == 1;
     814        1834 :   GEN grp = gal_get_group(gal), pi = pr_get_gen(pr);
     815        1834 :   pari_sp ltop = avma;
     816        7854 :   for (i=1; i<=n; i++)
     817             :   {
     818        7854 :     GEN iso = gel(grp,i);
     819        7854 :     if (perm_order(iso) == e)
     820             :     {
     821        3290 :       GEN S = get_aut(nf, gal, aut, iso);
     822        3290 :       if (ZC_prdvd(ZC_galoisapply(nf, S, pi), pr)
     823        2352 :           && (coprime || gequalX(nf_to_Fq(nf, galoisapply(nf,S,b), modpr))))
     824        1834 :           return iso;
     825        1456 :       set_avma(ltop);
     826             :     }
     827             :   }
     828           0 :   pari_err_BUG("idealinertiagroup [no isotropic element]");
     829           0 :   return NULL;
     830             : }
     831             : 
     832             : static GEN
     833        1897 : idealramgroupstame(GEN nf, GEN gal, GEN aut, GEN pr)
     834             : {
     835        1897 :   pari_sp av = avma;
     836             :   GEN iso, frob, giso, isog, S, res;
     837        1897 :   long e = pr_get_e(pr), f = pr_get_f(pr);
     838        1897 :   GEN grp = gal_get_group(gal);
     839        1897 :   if (e == 1)
     840             :   {
     841          63 :     if (f==1)
     842           0 :       return cgetg(1,t_VEC);
     843          63 :     frob = idealquasifrob(nf, gal, grp, pr, NULL, &S, aut);
     844          63 :     set_avma(av);
     845          63 :     res = cgetg(2, t_VEC);
     846          63 :     gel(res, 1) = cyclicgroup(frob, f);
     847          63 :     return res;
     848             :   }
     849        1834 :   res = cgetg(3, t_VEC);
     850        1834 :   av = avma;
     851        1834 :   iso = idealinertiagroup(nf, gal, aut, pr);
     852        1834 :   set_avma(av);
     853        1834 :   giso = cyclicgroup(iso, e);
     854        1834 :   gel(res, 2) = giso;
     855        1834 :   if (f==1)
     856             :   {
     857         917 :     gel(res, 1) = giso;
     858         917 :     return res;
     859             :   }
     860         917 :   av = avma;
     861         917 :   isog = group_set(giso, nf_get_degree(nf));
     862         917 :   frob = idealquasifrob(nf, gal, grp, pr, isog, &S, aut);
     863         917 :   set_avma(av);
     864         917 :   gel(res, 1) = dicyclicgroup(iso,frob,e,f);
     865         917 :   return res;
     866             : }
     867             : 
     868             : /* true nf, p | e */
     869             : static GEN
     870         497 : idealramgroupswild(GEN nf, GEN gal, GEN aut, GEN pr)
     871             : {
     872         497 :   pari_sp av2, av = avma;
     873         497 :   GEN p, T, idx, g, gbas, pi, pibas, Dpi, modpr = zk_to_Fq_init(nf,&pr,&T,&p);
     874         497 :   long bound, i, vDpi, vDg, n = nf_get_degree(nf);
     875         497 :   long e = pr_get_e(pr);
     876         497 :   long f = pr_get_f(pr);
     877             :   ulong nt,rorder;
     878         497 :   GEN pg, ppi, grp = gal_get_group(gal);
     879             : 
     880             :   /* G_i = {s: v(s(pi) - pi) > i} trivial for i > bound;
     881             :    * v_pr(Diff) = sum_{i = 0}^{bound} (#G_i - 1) >= e-1 + bound*(p-1)*/
     882         497 :   bound = (idealval(nf, nf_get_diff(nf), pr) - (e-1)) / (itou(p)-1);
     883         497 :   (void) u_pvalrem(n,p,&nt);
     884         497 :   rorder = e*f*(n/nt);
     885         497 :   idx = const_vecsmall(n,-1);
     886         497 :   pg = NULL;
     887         497 :   vDg = 0;
     888         497 :   if (f == 1)
     889         154 :     g = gbas = NULL;
     890             :   else
     891             :   {
     892             :     GEN Dg;
     893         343 :     g = nf_to_scalar_or_alg(nf, modpr_genFq(modpr));
     894         343 :     if (!gcmpX(g)) /* p | nf.index */
     895             :     {
     896           7 :       g = Q_remove_denom(g, &Dg);
     897           7 :       vDg = Z_pval(Dg,p);
     898           7 :       pg = powiu(p, vDg + 1);
     899           7 :       g = FpX_red(g, pg);
     900             :     }
     901         343 :     gbas = nf_to_scalar_or_basis(nf, g);
     902             :   }
     903         497 :   pi = nf_to_scalar_or_alg(nf, pr_get_gen(pr));
     904         497 :   pi = Q_remove_denom(pi, &Dpi);
     905         497 :   vDpi = Dpi ? Z_pval(Dpi, p): 0;
     906         497 :   ppi = powiu(p, vDpi + (bound + e)/e);
     907         497 :   pi = FpX_red(pi, ppi);
     908         497 :   pibas = nf_to_scalar_or_basis(nf, pi);
     909         497 :   av2 = avma;
     910        4704 :   for (i = 2; i <= n; i++)
     911             :   {
     912        4207 :     GEN S, Spi, piso, iso = gel(grp, i);
     913        4207 :     long j, o, ix = iso[1];
     914        4207 :     if (idx[ix] >= 0 || rorder % (o = perm_order(iso))) continue;
     915             : 
     916        2905 :     piso = iso;
     917        2905 :     S = get_aut(nf, gal, aut, iso);
     918        2905 :     Spi = FpX_FpC_nfpoleval(nf, pi, FpC_red(S, ppi), ppi);
     919             :     /* Computation made knowing that the valuation is <= bound + 1. Correct
     920             :      * to maximal value if reduction mod ppi altered this */
     921        2905 :     idx[ix] = minss(bound+1, idealval(nf, gsub(Spi,pibas), pr) - e*vDpi);
     922        2905 :     if (idx[ix] == 0) idx[ix] = -1;
     923        2457 :     else if (g)
     924             :     {
     925        1848 :       GEN Sg = pg? FpX_FpC_nfpoleval(nf, g, FpC_red(S, pg), pg): S;
     926        1848 :       if (vDg)
     927          42 :       { if (nfval(nf, gsub(Sg, gbas), pr) - e*vDg <= 0) idx[ix] = 0; }
     928             :       else /* same, more efficient */
     929        1806 :       { if (!ZC_prdvd(gsub(Sg, gbas), pr)) idx[ix] = 0; }
     930             :     }
     931        5488 :     for (j = 2; j < o; j++)
     932             :     {
     933        2583 :       piso = perm_mul(piso,iso);
     934        2583 :       if (ugcd(j,o)==1) idx[ piso[1] ] = idx[ix];
     935             :     }
     936        2905 :     set_avma(av2);
     937             :   }
     938         497 :   return gerepileuptoleaf(av, idx);
     939             : }
     940             : 
     941             : GEN
     942        2394 : idealramgroups_aut(GEN nf, GEN gal, GEN pr, GEN aut)
     943             : {
     944        2394 :   pari_sp av = avma;
     945             :   GEN tbl, idx, res, set, sub;
     946             :   long i, j, e, n, maxm, p;
     947             :   ulong et;
     948        2394 :   nf = checknf(nf);
     949        2394 :   checkgal(gal);
     950        2394 :   checkprid(pr);
     951        2394 :   gal_check_pol("idealramgroups",nf_get_pol(nf),gal_get_pol(gal));
     952        2394 :   e = pr_get_e(pr); n = nf_get_degree(nf);
     953        2394 :   p = itos(pr_get_p(pr));
     954        2394 :   if (e%p) return idealramgroupstame(nf, gal, aut, pr);
     955         497 :   (void) u_lvalrem(e,p,&et);
     956         497 :   idx = idealramgroupswild(nf, gal, aut, pr);
     957         497 :   sub = group_subgroups(galois_group(gal));
     958         497 :   tbl = subgroups_tableset(sub, n);
     959         497 :   maxm = vecsmall_max(idx)+1;
     960         497 :   res = cgetg(maxm+1,t_VEC);
     961         497 :   set = zero_F2v(n); F2v_set(set,1);
     962        2499 :   for(i=maxm; i>0; i--)
     963             :   {
     964             :     long ix;
     965       20468 :     for(j=1;j<=n;j++)
     966       18466 :       if (idx[j]==i-1)
     967        3521 :         F2v_set(set,j);
     968        2002 :     ix = tableset_find_index(tbl, set);
     969        2002 :     if (ix==0) pari_err_BUG("idealramgroups");
     970        2002 :     gel(res,i) = gel(sub, ix);
     971             :   }
     972         497 :   return gerepilecopy(av, res);
     973             : }
     974             : 
     975             : GEN
     976         112 : idealramgroups(GEN nf, GEN gal, GEN pr)
     977             : {
     978         112 :   return idealramgroups_aut(nf, gal, pr, NULL);
     979             : }
     980             : 
     981             : /* x = relative polynomial nf = absolute nf, bnf = absolute bnf */
     982             : GEN
     983         112 : get_bnfpol(GEN x, GEN *bnf, GEN *nf)
     984             : {
     985         112 :   *bnf = checkbnf_i(x);
     986         112 :   *nf  = checknf_i(x);
     987         112 :   if (*nf) x = nf_get_pol(*nf);
     988         112 :   if (typ(x) != t_POL) pari_err_TYPE("get_bnfpol",x);
     989         112 :   return x;
     990             : }
     991             : 
     992             : GEN
     993       60081 : get_nfpol(GEN x, GEN *nf)
     994             : {
     995       60081 :   if (typ(x) == t_POL) { *nf = NULL; return x; }
     996       39200 :   *nf = checknf(x); return nf_get_pol(*nf);
     997             : }
     998             : 
     999             : static GEN
    1000         490 : incl_disc(GEN nfa, GEN a, int nolocal)
    1001             : {
    1002             :   GEN d;
    1003         490 :   if (nfa) return nf_get_disc(nfa);
    1004         420 :   if (nolocal) return NULL;
    1005         413 :   d = ZX_disc(a);
    1006         413 :   if (!signe(d)) pari_err_IRREDPOL("nfisincl",a);
    1007         406 :   return d;
    1008             : }
    1009             : 
    1010             : /* is isomorphism / inclusion (a \subset b) compatible with what we know about
    1011             :  * basic invariants ? (degree, signature, discriminant); test for isomorphism
    1012             :  * if fliso is set and for inclusion otherwise */
    1013             : static int
    1014         266 : tests_OK(GEN a, GEN nfa, GEN b, GEN nfb, long fliso)
    1015             : {
    1016             :   GEN da2, da, db, fa, P, E, U;
    1017         266 :   long i, l, nP, q, m = degpol(a), n = degpol(b);
    1018             : 
    1019         266 :   if (m <= 0) pari_err_IRREDPOL("nfisincl",a);
    1020         266 :   if (n <= 0) pari_err_IRREDPOL("nfisincl",b);
    1021         259 :   q = n / m; /* relative degree */
    1022         259 :   if (fliso) { if (n != m) return 0; } else { if (n % m) return 0; }
    1023         259 :   if (m == 1) return 1;
    1024             : 
    1025             :   /*local test expensive if n^2 >> m^4 <=> q = n/m >> m */
    1026         252 :   db = incl_disc(nfb, b, q > m);
    1027         245 :   da = db? incl_disc(nfa, a, 0): NULL;
    1028         245 :   if (nfa && nfb) /* both nf structures available */
    1029             :   {
    1030           7 :     long r1a = nf_get_r1(nfa), r1b = nf_get_r1(nfb);
    1031           0 :     return fliso ? (r1a == r1b && equalii(da, db))
    1032           7 :                  : (r1b <= r1a * q && dvdii(db, powiu(da, q)));
    1033             :   }
    1034         238 :   if (!db) return 1;
    1035         231 :   if (fliso) return issquare(gdiv(da,db));
    1036             : 
    1037         182 :   if (nfa)
    1038             :   {
    1039           7 :     P = nf_get_ramified_primes(nfa); l = lg(P);
    1040          14 :     for (i = 1; i < l; i++)
    1041           7 :       if (Z_pval(db, gel(P,i)) < q * Z_pval(da, gel(P,i))) return 0;
    1042           7 :     return 1;
    1043             :   }
    1044         175 :   else if (nfb)
    1045             :   {
    1046          14 :     P = nf_get_ramified_primes(nfb); l = lg(P);
    1047          28 :     for (i = 1; i < l; i++)
    1048             :     {
    1049          14 :       long va = Z_pval(da, gel(P,i));
    1050          14 :       if (va && Z_pval(db, gel(P,i)) < q * va) return 0;
    1051             :     }
    1052          14 :     return 1;
    1053             :   }
    1054             :   /* da = dK A^2, db = dL B^2, dL = dK^q * N(D)
    1055             :    * da = da1 * da2, da2 maximal s.t. (da2, db) = 1: let p a prime divisor of
    1056             :    * da2 then p \nmid da1 * dK and p | A => v_p(da) = v_p(da2) is even */
    1057         161 :   da2 = Z_ppo(da, db);
    1058         161 :   if (!is_pm1(da2))
    1059             :   { /* replace da by da1 all of whose prime divisors divide db */
    1060         119 :     da2 = absi_shallow(da2);
    1061         119 :     if (!Z_issquare(da2)) return 0;
    1062           7 :     da = diviiexact(da, da2);
    1063             :   }
    1064          49 :   if (is_pm1(da)) return 1;
    1065          42 :   fa = absZ_factor_limit(da, 0);
    1066          42 :   P = gel(fa,1);
    1067          42 :   E = gel(fa,2); nP = lg(P) - 1;
    1068          49 :   for (i=1; i<nP; i++) /* all but last factor (primes) */
    1069           7 :     if (mod2(gel(E,i)) && !dvdii(db, powiu(gel(P,i),q))) return 0;
    1070          42 :   U = gel(P,nP); /* unknown */
    1071          42 :   if (mod2(gel(E,i)) && expi(U) < 150)
    1072             :   { /* "unfactored" cofactor is small, finish */
    1073          14 :     if (abscmpiu(U, maxprime()) > 0)
    1074             :     {
    1075           0 :       fa = Z_factor(U);
    1076           0 :       P = gel(fa,1);
    1077           0 :       E = gel(fa,2);
    1078             :     }
    1079             :     else
    1080             :     {
    1081          14 :       P = mkvec(U);
    1082          14 :       E = mkvec(gen_1);
    1083             :     }
    1084          14 :     nP = lg(P) - 1;
    1085          28 :     for (i=1; i<=nP; i++)
    1086          14 :       if (mod2(gel(E,i)) && !dvdii(db, powiu(gel(P,i),q))) return 0;
    1087             :   }
    1088          42 :   return 1;
    1089             : }
    1090             : 
    1091             : GEN
    1092          70 : nfisisom(GEN a, GEN b)
    1093             : {
    1094          70 :   pari_sp av = avma;
    1095             :   long i, va, vb, lx;
    1096             :   GEN nfa, nfb, y, la, lb;
    1097          70 :   int newvar, sw = 0;
    1098             : 
    1099          70 :   a = get_nfpol(a, &nfa);
    1100          70 :   b = get_nfpol(b, &nfb);
    1101          70 :   if (!nfa) { a = Q_primpart(a); RgX_check_ZX(a, "nfisisom"); }
    1102          70 :   if (!nfb) { b = Q_primpart(b); RgX_check_ZX(b, "nfisisom"); }
    1103          70 :   if (nfa && !nfb) { swap(a,b); nfb = nfa; nfa = NULL; sw = 1; }
    1104          70 :   if (!tests_OK(a, nfa, b, nfb, 1)) { set_avma(av); return gen_0; }
    1105             : 
    1106          56 :   if (nfb) lb = gen_1; else nfb = b = ZX_Q_normalize(b,&lb);
    1107          56 :   if (nfa) la = gen_1; else nfa = a = ZX_Q_normalize(a,&la);
    1108          56 :   va = varn(a); vb = varn(b); newvar = (varncmp(vb,va) <= 0);
    1109          56 :   if (newvar) { a = leafcopy(a); setvarn(a, fetch_var_higher()); }
    1110          56 :   y = lift_shallow(nfroots(nfb,a));
    1111          56 :   if (newvar) (void)delete_var();
    1112          56 :   lx = lg(y); if (lx==1) { set_avma(av); return gen_0; }
    1113          56 :   if (sw) { vb = va; b = leafcopy(b); setvarn(b, vb); }
    1114         231 :   for (i=1; i<lx; i++)
    1115             :   {
    1116         175 :     GEN t = gel(y,i);
    1117         175 :     if (typ(t) == t_POL) setvarn(t, vb); else t = scalarpol(t, vb);
    1118         175 :     if (lb != gen_1) t = RgX_unscale(t, lb);
    1119         175 :     if (la != gen_1) t = RgX_Rg_div(t, la);
    1120         175 :     gel(y,i) = sw? RgXQ_reverse(t, b): t;
    1121             :   }
    1122          56 :   return gerepilecopy(av,y);
    1123             : }
    1124             : 
    1125             : static GEN
    1126         140 : partmap_reverse(GEN a, GEN b, GEN t, GEN la, GEN lb, long v)
    1127             : {
    1128         140 :   pari_sp av = avma;
    1129         140 :   GEN rnf = rnfequation2(a, t), z;
    1130         140 :   if (!RgX_equal(b, gel(rnf,1)))
    1131           7 :     { setvarn(b,v); pari_err_IRREDPOL("nfisincl", b); }
    1132         133 :   z = liftpol_shallow(gel(rnf, 2));
    1133         133 :   setvarn(z, v);
    1134         133 :   if (!isint1(lb)) z = RgX_unscale(z, lb);
    1135         133 :   if (!isint1(la)) z = RgX_Rg_div(z, la);
    1136         133 :   return gerepilecopy(av, z);
    1137             : }
    1138             : 
    1139             : GEN
    1140         217 : nfisincl(GEN fa, GEN fb)
    1141             : {
    1142         217 :   pari_sp av = avma;
    1143             :   long i, k, vb, lx;
    1144             :   long da, db, d;
    1145             :   GEN a, b, nfa, nfb, x, y, la, lb;
    1146             :   int newvar;
    1147             : 
    1148         217 :   a = get_nfpol(fa, &nfa);
    1149         217 :   b = get_nfpol(fb, &nfb);
    1150         217 :   da = degpol(a); db = degpol(b);
    1151         217 :   if (da == db) return nfisisom(fa, fb);
    1152         196 :   if (!nfa) { a = Q_primpart(a); RgX_check_ZX(a, "nsisincl"); }
    1153         196 :   if (!nfb) { b = Q_primpart(b); RgX_check_ZX(b, "nsisincl"); }
    1154         196 :   if (!tests_OK(a, nfa, b, nfb, 0)) { set_avma(av); return gen_0; }
    1155             : 
    1156          84 :   if (nfb) lb = gen_1; else nfb = b = ZX_Q_normalize(b,&lb);
    1157          84 :   if (nfa) la = gen_1; else nfa = a = ZX_Q_normalize(a,&la);
    1158          84 :   vb = varn(b); newvar = (varncmp(varn(a),vb) <= 0);
    1159          84 :   if (newvar) { b = leafcopy(b); setvarn(b, fetch_var_higher()); }
    1160          84 :   y = lift_shallow(gel(nffactor(nfa,b),1));
    1161          84 :   lx = lg(y);
    1162          84 :   da = degpol(a); db = degpol(b); d = db/da;
    1163          84 :   x = cgetg(lx, t_VEC);
    1164         238 :   for (i=1, k=1; i<lx; i++)
    1165             :   {
    1166         161 :     GEN t = gel(y,i);
    1167         161 :     if (degpol(t)!=d) continue;
    1168         140 :     gel(x, k++) = partmap_reverse(a, b, t, la, lb, vb);
    1169             :   }
    1170          77 :   if (newvar) (void)delete_var();
    1171          77 :   if (k==1) { set_avma(av); return gen_0; }
    1172          63 :   setlg(x, k);
    1173          63 :   gen_sort_inplace(x, (void*)&cmp_RgX, &cmp_nodata, NULL);
    1174          63 :   return gerepilecopy(av,x);
    1175             : }
    1176             : 
    1177             : static GEN
    1178           7 : lastel(GEN x) { return gel(x, lg(x)-1); }
    1179             : 
    1180             : static GEN
    1181         140 : nfsplitting_composite(GEN P)
    1182             : {
    1183         140 :   GEN F = gel(ZX_factor(P), 1), Q = NULL;
    1184         140 :   long i, n = lg(F)-1;
    1185         280 :   for (i = 1; i <= n; i++)
    1186             :   {
    1187         140 :     GEN Fi = gel(F, i);
    1188         140 :     if (degpol(Fi) == 1) continue;
    1189         126 :     Q = Q ? lastel(compositum(Q, Fi)): Fi;
    1190             :   }
    1191         140 :   return Q ? Q: pol_x(varn(P));
    1192             : }
    1193             : GEN
    1194         147 : nfsplitting(GEN T, GEN D)
    1195             : {
    1196         147 :   pari_sp av = avma;
    1197             :   long d, v;
    1198             :   GEN F, K;
    1199         147 :   T = get_nfpol(T,&K);
    1200         140 :   if (!K)
    1201             :   {
    1202         133 :     if (typ(T) != t_POL) pari_err_TYPE("nfsplitting",T);
    1203         133 :     T = Q_primpart(T);
    1204         133 :     RgX_check_ZX(T,"nfsplitting");
    1205             :   }
    1206         140 :   T = nfsplitting_composite(T);
    1207         140 :   d = degpol(T);
    1208         140 :   if (d<=1) return pol_x(varn(T));
    1209         112 :   if (!K) {
    1210         105 :     if (!isint1(leading_coeff(T))) K = T = polredbest(T,0);
    1211         105 :     K = T;
    1212             :   }
    1213         112 :   if (D)
    1214             :   {
    1215          21 :     if (typ(D) != t_INT || signe(D) < 1) pari_err_TYPE("nfsplitting",D);
    1216             :   }
    1217             :   else
    1218             :   {
    1219          91 :     char *data = stack_strcat(pari_datadir, "/galdata");
    1220          91 :     long dmax = pari_is_dir(data)? 11: 7;
    1221          91 :     D = (d <= dmax)? gel(polgalois(T,DEFAULTPREC), 1): mpfact(d);
    1222             :   }
    1223         112 :   d = itos_or_0(D);
    1224         112 :   v = varn(T);
    1225         112 :   T = leafcopy(T); setvarn(T, fetch_var_higher());
    1226         112 :   for(F = T;;)
    1227          35 :   {
    1228         147 :     GEN P = gel(nffactor(K, F), 1), Q = gel(P,lg(P)-1);
    1229         147 :     if (degpol(gel(P,1)) == degpol(Q)) break;
    1230         119 :     F = rnfequation(K,Q);
    1231         119 :     if (degpol(F) == d) break;
    1232             :   }
    1233         112 :   if (umodiu(D,degpol(F)))
    1234             :   {
    1235           7 :     char *sD = itostr(D);
    1236           7 :     pari_warn(warner,stack_strcat("ignoring incorrect degree bound ",sD));
    1237             :   }
    1238         112 :   (void)delete_var();
    1239         112 :   setvarn(F,v);
    1240         112 :   return gerepilecopy(av, F);
    1241             : }
    1242             : 
    1243             : /*************************************************************************/
    1244             : /**                                                                     **/
    1245             : /**                               INITALG                               **/
    1246             : /**                                                                     **/
    1247             : /*************************************************************************/
    1248             : typedef struct {
    1249             :   GEN T;
    1250             :   GEN ro; /* roots of T */
    1251             :   long r1;
    1252             :   GEN basden;
    1253             :   long prec;
    1254             :   long extraprec; /* possibly -1 = irrelevant or not computed */
    1255             :   GEN M, G; /* possibly NULL = irrelevant or not computed */
    1256             : } nffp_t;
    1257             : 
    1258             : static GEN
    1259       33527 : get_roots(GEN x, long r1, long prec)
    1260             : {
    1261             :   long i, ru;
    1262             :   GEN z;
    1263       33527 :   if (typ(x) != t_POL)
    1264             :   {
    1265           0 :     z = leafcopy(x);
    1266           0 :     ru = (lg(z)-1 + r1) >> 1;
    1267             :   }
    1268             :   else
    1269             :   {
    1270       33527 :     long n = degpol(x);
    1271       33527 :     z = (r1 == n)? ZX_realroots_irred(x, prec): QX_complex_roots(x,prec);
    1272       33527 :     ru = (n+r1)>>1;
    1273             :   }
    1274       33527 :   for (i=r1+1; i<=ru; i++) gel(z,i) = gel(z, (i<<1)-r1);
    1275       33527 :   z[0]=evaltyp(t_VEC)|evallg(ru+1); return z;
    1276             : }
    1277             : 
    1278             : GEN
    1279           0 : nf_get_allroots(GEN nf)
    1280             : {
    1281           0 :   return embed_roots(nf_get_roots(nf), nf_get_r1(nf));
    1282             : }
    1283             : 
    1284             : /* For internal use. compute trace(x mod pol), sym=polsym(pol,deg(pol)-1) */
    1285             : GEN
    1286      109844 : quicktrace(GEN x, GEN sym)
    1287             : {
    1288      109844 :   GEN p1 = gen_0;
    1289             :   long i;
    1290             : 
    1291      109844 :   if (typ(x) != t_POL) return gmul(x, gel(sym,1));
    1292      109844 :   if (signe(x))
    1293             :   {
    1294      109844 :     sym--;
    1295     1427986 :     for (i=lg(x)-1; i>1; i--)
    1296     1318142 :       p1 = gadd(p1, gmul(gel(x,i),gel(sym,i)));
    1297             :   }
    1298      109844 :   return p1;
    1299             : }
    1300             : 
    1301             : static GEN
    1302       18501 : get_Tr(GEN mul, GEN x, GEN basden)
    1303             : {
    1304       18501 :   GEN t, bas = gel(basden,1), den = gel(basden,2);
    1305       18501 :   long i, j, n = lg(bas)-1;
    1306       18501 :   GEN T = cgetg(n+1,t_MAT), TW = cgetg(n+1,t_COL), sym = polsym(x, n-1);
    1307             : 
    1308       18501 :   gel(TW,1) = utoipos(n);
    1309       57743 :   for (i=2; i<=n; i++)
    1310             :   {
    1311       39242 :     t = quicktrace(gel(bas,i), sym);
    1312       39242 :     if (den && gel(den,i)) t = diviiexact(t,gel(den,i));
    1313       39242 :     gel(TW,i) = t; /* tr(w[i]) */
    1314             :   }
    1315       18501 :   gel(T,1) = TW;
    1316       57743 :   for (i=2; i<=n; i++)
    1317             :   {
    1318       39242 :     gel(T,i) = cgetg(n+1,t_COL); gcoeff(T,1,i) = gel(TW,i);
    1319      232505 :     for (j=2; j<=i; j++) /* Tr(W[i]W[j]) */
    1320      193263 :       gcoeff(T,i,j) = gcoeff(T,j,i) = ZV_dotproduct(gel(mul,j+(i-1)*n), TW);
    1321             :   }
    1322       18501 :   return T;
    1323             : }
    1324             : 
    1325             : /* return [bas[i]*denom(bas[i]), denom(bas[i])], denom 1 is given as NULL */
    1326             : static GEN
    1327       41027 : get_bas_den(GEN bas)
    1328             : {
    1329       41027 :   GEN b,d,den, dbas = leafcopy(bas);
    1330       41027 :   long i, l = lg(bas);
    1331       41027 :   int power = 1;
    1332       41027 :   den = cgetg(l,t_VEC);
    1333      180810 :   for (i=1; i<l; i++)
    1334             :   {
    1335      139783 :     b = Q_remove_denom(gel(bas,i), &d);
    1336      139783 :     gel(dbas,i) = b;
    1337      139783 :     gel(den,i) = d; if (d) power = 0;
    1338             :   }
    1339       41027 :   if (power) den = NULL; /* power basis */
    1340       41027 :   return mkvec2(dbas, den);
    1341             : }
    1342             : 
    1343             : /* return multiplication table for S->basis */
    1344             : static GEN
    1345       18501 : nf_multable(nfmaxord_t *S, GEN invbas)
    1346             : {
    1347       18501 :   GEN T = S->T, w = gel(S->basden,1), den = gel(S->basden,2);
    1348       18501 :   long i,j, n = degpol(T);
    1349       18501 :   GEN mul = cgetg(n*n+1,t_MAT);
    1350             : 
    1351             :   /* i = 1 split for efficiency, assume w[1] = 1 */
    1352       76244 :   for (j=1; j<=n; j++)
    1353       57743 :     gel(mul,j) = gel(mul,1+(j-1)*n) = col_ei(n, j);
    1354       57743 :   for (i=2; i<=n; i++)
    1355      232505 :     for (j=i; j<=n; j++)
    1356             :     {
    1357      193263 :       pari_sp av = avma;
    1358      193263 :       GEN z = (i == j)? ZXQ_sqr(gel(w,i), T): ZXQ_mul(gel(w,i),gel(w,j), T);
    1359      193263 :       z = ZM_ZX_mul(invbas, z); /* integral column */
    1360      193263 :       if (den)
    1361             :       {
    1362      131712 :         GEN d = mul_denom(gel(den,i), gel(den,j));
    1363      131712 :         if (d) z = ZC_Z_divexact(z, d);
    1364             :       }
    1365      193263 :       gel(mul,j+(i-1)*n) = gel(mul,i+(j-1)*n) = gerepileupto(av,z);
    1366             :     }
    1367       18501 :   return mul;
    1368             : }
    1369             : 
    1370             : /* as get_Tr, mul_table not precomputed */
    1371             : static GEN
    1372        6398 : make_Tr(nfmaxord_t *S)
    1373             : {
    1374        6398 :   GEN T = S->T, w = gel(S->basden,1), den = gel(S->basden,2);
    1375        6398 :   long i,j, n = degpol(T);
    1376        6398 :   GEN c, t, d, M = cgetg(n+1,t_MAT), sym = polsym(T, n-1);
    1377             : 
    1378             :   /* W[i] = w[i]/den[i]; assume W[1] = 1, case i = 1 split for efficiency */
    1379        6398 :   c = cgetg(n+1,t_COL); gel(M,1) = c;
    1380        6398 :   gel(c, 1) = utoipos(n);
    1381       18515 :   for (j=2; j<=n; j++)
    1382             :   {
    1383       12117 :     pari_sp av = avma;
    1384       12117 :     t = quicktrace(gel(w,j), sym);
    1385       12117 :     if (den)
    1386             :     {
    1387        7413 :       d = gel(den,j);
    1388        7413 :       if (d) t = diviiexact(t, d);
    1389             :     }
    1390       12117 :     gel(c,j) = gerepileuptoint(av, t);
    1391             :   }
    1392       18515 :   for (i=2; i<=n; i++)
    1393             :   {
    1394       12117 :     c = cgetg(n+1,t_COL); gel(M,i) = c;
    1395       12117 :     for (j=1; j<i ; j++) gel(c,j) = gcoeff(M,i,j);
    1396       70196 :     for (   ; j<=n; j++)
    1397             :     {
    1398       58079 :       pari_sp av = avma;
    1399       58079 :       t = (i == j)? ZXQ_sqr(gel(w,i), T): ZXQ_mul(gel(w,i),gel(w,j), T);
    1400       58079 :       t = quicktrace(t, sym);
    1401       58079 :       if (den)
    1402             :       {
    1403       48447 :         d = mul_denom(gel(den,i),gel(den,j));
    1404       48447 :         if (d) t = diviiexact(t, d);
    1405             :       }
    1406       58079 :       gel(c,j) = gerepileuptoint(av, t); /* Tr (W[i]W[j]) */
    1407             :     }
    1408             :   }
    1409        6398 :   return M;
    1410             : }
    1411             : 
    1412             : /* [bas[i]/den[i]]= integer basis. roo = real part of the roots */
    1413             : static void
    1414       36286 : make_M(nffp_t *F, int trunc)
    1415             : {
    1416       36286 :   GEN bas = gel(F->basden,1), den = gel(F->basden,2), ro = F->ro;
    1417             :   GEN m, d, M;
    1418       36286 :   long i, j, l = lg(ro), n = lg(bas);
    1419       36286 :   M = cgetg(n,t_MAT);
    1420       36286 :   gel(M,1) = const_col(l-1, gen_1); /* bas[1] = 1 */
    1421       36286 :   for (j=2; j<n; j++) gel(M,j) = cgetg(l,t_COL);
    1422      113740 :   for (i=1; i<l; i++)
    1423             :   {
    1424       77454 :     GEN r = gel(ro,i), ri;
    1425       77454 :     ri = (gexpo(r) > 1)? ginv(r): NULL;
    1426       77454 :     for (j=2; j<n; j++) gcoeff(M,i,j) = RgX_cxeval(gel(bas,j), r, ri);
    1427             :   }
    1428       36286 :   if (den)
    1429       65162 :     for (j=2; j<n; j++)
    1430             :     {
    1431       55104 :       d = gel(den,j); if (!d) continue;
    1432       45939 :       m = gel(M,j);
    1433       45939 :       for (i=1; i<l; i++) gel(m,i) = gdiv(gel(m,i), d);
    1434             :     }
    1435             : 
    1436       36286 :   if (trunc && gprecision(M) > F->prec)
    1437             :   {
    1438        3729 :     M     = gprec_w(M, F->prec);
    1439        3729 :     F->ro = gprec_w(ro,F->prec);
    1440             :   }
    1441       36286 :   F->M = M;
    1442       36286 : }
    1443             : 
    1444             : /* return G real such that G~ * G = T_2 */
    1445             : static void
    1446       36286 : make_G(nffp_t *F)
    1447             : {
    1448       36286 :   GEN G, M = F->M;
    1449       36286 :   long i, j, k, r1 = F->r1, l = lg(M);
    1450             : 
    1451       36286 :   if (r1 == l-1) { F->G = M; return; }
    1452       28898 :   G = cgetg(l, t_MAT);
    1453      136663 :   for (j = 1; j < l; j++)
    1454             :   {
    1455      107765 :     GEN g, m = gel(M,j);
    1456      107765 :     gel(G,j) = g = cgetg(l, t_COL);
    1457      107765 :     for (k = i = 1; i <= r1; i++) gel(g,k++) = gel(m,i);
    1458      540696 :     for (     ; k < l; i++)
    1459             :     {
    1460      432931 :       GEN r = gel(m,i);
    1461      432931 :       if (typ(r) == t_COMPLEX)
    1462             :       {
    1463      381888 :         GEN a = gel(r,1), b = gel(r,2);
    1464      381888 :         gel(g,k++) = mpadd(a, b);
    1465      381888 :         gel(g,k++) = mpsub(a, b);
    1466             :       }
    1467             :       else
    1468             :       {
    1469       51043 :         gel(g,k++) = r;
    1470       51043 :         gel(g,k++) = r;
    1471             :       }
    1472             :     }
    1473             :   }
    1474       28898 :   F->G = G;
    1475             : }
    1476             : 
    1477             : static void
    1478       36286 : make_M_G(nffp_t *F, int trunc)
    1479             : {
    1480             :   long n, eBD, prec;
    1481       36286 :   if (F->extraprec < 0)
    1482             :   { /* not initialized yet; compute roots so that absolute accuracy
    1483             :      * of M & G >= prec */
    1484             :     double er;
    1485       36266 :     n = degpol(F->T);
    1486       36266 :     eBD = 1 + gexpo(gel(F->basden,1));
    1487       36266 :     er  = F->ro? (1+gexpo(F->ro)): fujiwara_bound(F->T);
    1488       36266 :     if (er < 0) er = 0;
    1489       36266 :     F->extraprec = nbits2extraprec(n*er + eBD + log2(n));
    1490             :   }
    1491       36286 :   prec = F->prec + F->extraprec;
    1492             : #ifndef LONG_IS_64BIT
    1493             :   /* make sure that default accuracy is the same on 32/64bit */
    1494        5224 :   if (odd(prec)) prec += EXTRAPRECWORD;
    1495             : #endif
    1496       36286 :   if (!F->ro || gprecision(gel(F->ro,1)) < prec)
    1497       33527 :     F->ro = get_roots(F->T, F->r1, prec);
    1498             : 
    1499       36286 :   make_M(F, trunc);
    1500       36286 :   make_G(F);
    1501       36286 : }
    1502             : 
    1503             : static void
    1504       34685 : nffp_init(nffp_t *F, nfmaxord_t *S, long prec)
    1505             : {
    1506       34685 :   F->T  = S->T;
    1507       34685 :   F->r1 = S->r1;
    1508       34685 :   F->basden = S->basden;
    1509       34685 :   F->ro = NULL;
    1510       34685 :   F->extraprec = -1;
    1511       34685 :   F->prec = prec;
    1512       34685 : }
    1513             : 
    1514             : /* let bas a t_VEC of QX giving a Z-basis of O_K. Return the index of the
    1515             :  * basis. Assume bas[1] = 1 and that the leading coefficient of elements
    1516             :  * of bas are of the form 1/b for a t_INT b */
    1517             : static GEN
    1518        1435 : get_nfindex(GEN bas)
    1519             : {
    1520        1435 :   pari_sp av = avma;
    1521        1435 :   long n = lg(bas)-1, i;
    1522             :   GEN D, d, mat;
    1523             : 
    1524             :   /* assume bas[1] = 1 */
    1525        1435 :   D = gel(bas,1);
    1526        1435 :   if (! is_pm1(simplify_shallow(D))) pari_err_TYPE("get_nfindex", D);
    1527        1435 :   D = gen_1;
    1528        7539 :   for (i = 2; i <= n; i++)
    1529             :   { /* after nfbasis, basis is upper triangular! */
    1530        6111 :     GEN B = gel(bas,i), lc;
    1531        6111 :     if (degpol(B) != i-1) break;
    1532        6104 :     lc = gel(B, i+1);
    1533        6104 :     switch (typ(lc))
    1534             :     {
    1535        2401 :       case t_INT: continue;
    1536        3703 :       case t_FRAC: if (is_pm1(gel(lc,1)) ) {D = mulii(D, gel(lc,2)); continue;}
    1537           0 :       default: pari_err_TYPE("get_nfindex", B);
    1538             :     }
    1539             :   }
    1540        1435 :   if (i <= n)
    1541             :   { /* not triangular after all */
    1542           7 :     bas = vecslice(bas,i,n);
    1543           7 :     bas = Q_remove_denom(bas, &d);
    1544           7 :     if (!d) return D;
    1545           7 :     mat = RgV_to_RgM(bas, n);
    1546           7 :     mat = rowslice(mat, i,n);
    1547           7 :     D = mulii(D, diviiexact(powiu(d, n-i+1), absi_shallow(ZM_det(mat))));
    1548             :   }
    1549        1435 :   return gerepileuptoint(av, D);
    1550             : }
    1551             : /* make sure all components of S are initialized */
    1552             : static void
    1553       37002 : nfmaxord_complete(nfmaxord_t *S)
    1554             : {
    1555       37002 :   if (!S->dT) S->dT = ZX_disc(S->T);
    1556       37002 :   if (!S->index)
    1557             :   {
    1558        1435 :     if (S->dK) /* fast */
    1559           0 :       S->index = sqrti( diviiexact(S->dT, S->dK) );
    1560             :     else
    1561        1435 :       S->index = get_nfindex(S->basis);
    1562             :   }
    1563       37002 :   if (!S->dK) S->dK = diviiexact(S->dT, sqri(S->index));
    1564       37002 :   if (S->r1 < 0) S->r1 = ZX_sturm_irred(S->T);
    1565       37002 :   if (!S->basden) S->basden = get_bas_den(S->basis);
    1566       37002 : }
    1567             : 
    1568             : GEN
    1569       18501 : nfmaxord_to_nf(nfmaxord_t *S, GEN ro, long prec)
    1570             : {
    1571       18501 :   GEN nf = cgetg(10,t_VEC);
    1572       18501 :   GEN T = S->T, Tr, D, w, A, dA, MDI, mat = cgetg(9,t_VEC);
    1573       18501 :   long n = degpol(T);
    1574             :   nffp_t F;
    1575       18501 :   nfmaxord_complete(S);
    1576       18501 :   nffp_init(&F,S,prec);
    1577       18501 :   F.ro = ro;
    1578       18501 :   make_M_G(&F, 0);
    1579             : 
    1580       18501 :   gel(nf,1) = S->T;
    1581       18501 :   gel(nf,2) = mkvec2s(S->r1, (n - S->r1)>>1);
    1582       18501 :   gel(nf,3) = S->dK;
    1583       18501 :   gel(nf,4) = S->index;
    1584       18501 :   gel(nf,5) = mat;
    1585       18501 :   gel(nf,6) = F.ro;
    1586       18501 :   w = S->basis;
    1587       18501 :   if (!is_pm1(S->index)) w = Q_remove_denom(w, NULL);
    1588       18501 :   gel(nf,7) = w;
    1589       18501 :   gel(nf,8) = ZM_inv(RgV_to_RgM(w,n), NULL);
    1590       18501 :   gel(nf,9) = nf_multable(S, nf_get_invzk(nf));
    1591       18501 :   gel(mat,1) = F.M;
    1592       18501 :   gel(mat,2) = F.G;
    1593             : 
    1594       18501 :   Tr = get_Tr(gel(nf,9), T, S->basden);
    1595       18501 :   gel(mat,6) = A = ZM_inv(Tr, &dA); /* dA T^-1, primitive */
    1596       18501 :   A = ZM_hnfmodid(A, dA);
    1597             :   /* CAVEAT: nf is not complete yet, but the fields needed for
    1598             :    * idealtwoelt, zk_scalar_or_multable and idealinv are present ! */
    1599       18501 :   MDI = idealtwoelt(nf, A);
    1600       18501 :   gel(MDI,2) = zk_scalar_or_multable(nf, gel(MDI,2));
    1601       18501 :   gel(mat,7) = MDI;
    1602       18501 :   if (is_pm1(S->index))
    1603             :   { /* principal ideal (T'), whose norm is |dK| */
    1604       14679 :     D = zk_scalar_or_multable(nf, ZX_deriv(T));
    1605       14679 :     if (typ(D) == t_MAT) D = ZM_hnfmod(D, absi_shallow(S->dK));
    1606             :   }
    1607             :   else
    1608             :   {
    1609        3822 :     GEN c = diviiexact(dA, gcoeff(A,1,1));
    1610        3822 :     D = idealHNF_inv_Z(nf, A); /* (A\cap Z) / A */
    1611        3822 :     if (!is_pm1(c)) D = ZM_Z_mul(D, c);
    1612             :   }
    1613       18501 :   gel(mat,3) = RM_round_maxrank(F.G);
    1614       18501 :   gel(mat,4) = Tr;
    1615       18501 :   gel(mat,5) = D;
    1616       18501 :   gel(mat,8) = shallowtrans(S->dKP? S->dKP: gel(absZ_factor(S->dK), 1));
    1617       18501 :   return nf;
    1618             : }
    1619             : 
    1620             : static GEN
    1621         532 : primes_certify(GEN dK, GEN dKP)
    1622             : {
    1623         532 :   long i, l = lg(dKP);
    1624         532 :   GEN v, w, D = dK;
    1625         532 :   v = vectrunc_init(l);
    1626         532 :   w = vectrunc_init(l);
    1627        1638 :   for (i = 1; i < l; i++)
    1628             :   {
    1629        1106 :     GEN p = gel(dKP,i);
    1630        1106 :     vectrunc_append(isprime(p)? w: v, p);
    1631        1106 :     (void)Z_pvalrem(D, p, &D);
    1632             :   }
    1633         532 :   if (!is_pm1(D))
    1634             :   {
    1635           0 :     if (signe(D) < 0) D = negi(D);
    1636           0 :     vectrunc_append(isprime(D)? w: v, D);
    1637             :   }
    1638         532 :   return mkvec2(v,w);
    1639             : }
    1640             : GEN
    1641         217 : nfcertify(GEN nf)
    1642             : {
    1643         217 :   pari_sp av = avma;
    1644             :   GEN vw;
    1645         217 :   nf = checknf(nf);
    1646         217 :   vw = primes_certify(nf_get_disc(nf), nf_get_ramified_primes(nf));
    1647         217 :   return gerepilecopy(av, gel(vw,1));
    1648             : }
    1649             : 
    1650             : /* set *pro to roots of S->T */
    1651             : static GEN
    1652       14000 : get_red_G(nfmaxord_t *S, GEN *pro)
    1653             : {
    1654       14000 :   GEN G, u, u0 = NULL;
    1655             :   pari_sp av;
    1656       14000 :   long i, prec, n = degpol(S->T);
    1657             :   nffp_t F;
    1658             : 
    1659       14000 :   prec = nbits2prec(n+32);
    1660       14000 :   nffp_init(&F, S, prec);
    1661       14000 :   av = avma;
    1662       14000 :   for (i=1; ; i++)
    1663             :   {
    1664       14000 :     F.prec = prec; make_M_G(&F, 0); G = F.G;
    1665       14000 :     if (u0) G = RgM_mul(G, u0);
    1666       14000 :     if (DEBUGLEVEL)
    1667           0 :       err_printf("get_red_G: starting LLL, prec = %ld (%ld + %ld)\n",
    1668           0 :                   prec + F.extraprec, prec, F.extraprec);
    1669       14000 :     if ((u = lllfp(G, 0.99, LLL_KEEP_FIRST)))
    1670             :     {
    1671       14000 :       if (lg(u)-1 == n) break;
    1672             :       /* singular ==> loss of accuracy */
    1673           0 :       if (u0) u0 = gerepileupto(av, RgM_mul(u0,u));
    1674           0 :       else    u0 = gerepilecopy(av, u);
    1675             :     }
    1676           0 :     prec = precdbl(prec) + nbits2extraprec(gexpo(u0));
    1677           0 :     F.ro = NULL;
    1678           0 :     if (DEBUGLEVEL) pari_warn(warnprec,"get_red_G", prec);
    1679             :   }
    1680       14000 :   if (u0) u = RgM_mul(u0,u);
    1681       14000 :   *pro = F.ro; return u;
    1682             : }
    1683             : 
    1684             : /* Compute an LLL-reduced basis for the integer basis of nf(T).
    1685             :  * set *pro = roots of x if computed [NULL if not computed] */
    1686             : static void
    1687       20398 : set_LLL_basis(nfmaxord_t *S, GEN *pro, double DELTA)
    1688             : {
    1689       20398 :   GEN B = S->basis;
    1690       20398 :   if (S->r1 < 0) S->r1 = ZX_sturm_irred(S->T);
    1691       20398 :   if (!S->basden) S->basden = get_bas_den(B);
    1692       20398 :   if (S->r1 == degpol(S->T)) {
    1693        6398 :     pari_sp av = avma;
    1694        6398 :     GEN u = ZM_lll(make_Tr(S), DELTA, LLL_GRAM|LLL_KEEP_FIRST|LLL_IM);
    1695        6398 :     B = gerepileupto(av, RgV_RgM_mul(B, u));
    1696        6398 :     *pro = NULL;
    1697             :   }
    1698             :   else
    1699       14000 :     B = RgV_RgM_mul(B, get_red_G(S, pro));
    1700       20398 :   S->basis = B;
    1701       20398 :   S->basden = get_bas_den(B);
    1702       20398 : }
    1703             : 
    1704             : /* = 1 iff |a| > |b| or equality and a > 0 */
    1705             : static int
    1706       30084 : cmpii_polred(GEN a, GEN b)
    1707             : {
    1708       30084 :   int fl = abscmpii(a, b);
    1709             :   long sa, sb;
    1710       30084 :   if (fl) return fl;
    1711       26069 :   sa = signe(a);
    1712       26069 :   sb = signe(b);
    1713       26069 :   if (sa == sb) return 0;
    1714          21 :   return sa == 1? 1: -1;
    1715             : }
    1716             : static int
    1717        6172 : ZX_cmp(GEN x, GEN y)
    1718        6172 : {  return gen_cmp_RgX((void*)cmpii_polred, x, y); }
    1719             : /* current best: ZX x of discriminant *dx, is ZX y better than x ?
    1720             :  * (if so update *dx); both x and y are monic */
    1721             : static int
    1722       22578 : ZX_is_better(GEN y, GEN x, GEN *dx)
    1723             : {
    1724       22578 :   GEN d = ZX_disc(y);
    1725             :   int cmp;
    1726       22578 :   if (!*dx) *dx = ZX_disc(x);
    1727       22578 :   cmp = abscmpii(d, *dx);
    1728       22578 :   if (cmp < 0) { *dx = d; return 1; }
    1729       21012 :   return cmp? 0: (ZX_cmp(y, x) < 0);
    1730             : }
    1731             : 
    1732             : static void polredbest_aux(nfmaxord_t *S, GEN *pro, GEN *px, GEN *pdx, GEN *pa);
    1733             : /* Seek a simpler, polynomial pol defining the same number field as
    1734             :  * x (assumed to be monic at this point) */
    1735             : static GEN
    1736         287 : nfpolred(nfmaxord_t *S, GEN *pro)
    1737             : {
    1738         287 :   GEN x = S->T, dx, b, rev;
    1739         287 :   long n = degpol(x), v = varn(x);
    1740             : 
    1741         287 :   if (n == 1) {
    1742          98 :     S->T = pol_x(v);
    1743          98 :     *pro = NULL;
    1744          98 :     return scalarpol_shallow(negi(gel(x,2)), v);
    1745             :   }
    1746         189 :   polredbest_aux(S, pro, &x, &dx, &b);
    1747         189 :   if (x == S->T) return NULL; /* no improvement */
    1748         161 :   if (DEBUGLEVEL>1) err_printf("xbest = %Ps\n",x);
    1749             : 
    1750             :   /* update T */
    1751         161 :   rev = QXQ_reverse(b, S->T);
    1752         161 :   S->basis = QXV_QXQ_eval(S->basis, rev, x);
    1753         161 :   S->index = sqrti( diviiexact(dx,S->dK) );
    1754         161 :   S->basden = get_bas_den(S->basis);
    1755         161 :   S->dT = dx;
    1756         161 :   S->T = x;
    1757         161 :   *pro = NULL; /* reset */
    1758         161 :   return rev;
    1759             : }
    1760             : 
    1761             : /* Either nf type or ZX or [monic ZX, data], where data is either an integral
    1762             :  * basis (deprecated), or listP data (nfbasis input format) to specify
    1763             :  * a set of primes at with the basis order must be maximal.
    1764             :  * 1) nf type (or unrecognized): return t_VEC
    1765             :  * 2) ZX or [ZX, listP]: return t_POL
    1766             :  * 3) [ZX, order basis]: return 0 (deprecated)
    1767             :  * incorrect: return -1 */
    1768             : static long
    1769       17444 : nf_input_type(GEN x)
    1770             : {
    1771       17444 :   GEN T, V, DKP = NULL;
    1772             :   long i, d, v;
    1773       17444 :   switch(typ(x))
    1774             :   {
    1775       15533 :     case t_POL: return t_POL;
    1776             :     case t_VEC:
    1777        1911 :       switch(lg(x))
    1778             :       {
    1779        1561 :         case 4: DKP = gel(x,3);
    1780        1883 :         case 3: break;
    1781          28 :         default: return t_VEC; /* nf or incorrect */
    1782             :       }
    1783        1883 :       T = gel(x,1); V = gel(x,2);
    1784        1883 :       if (typ(T) != t_POL) return -1;
    1785        1883 :       switch(typ(V))
    1786             :       {
    1787         224 :         case t_INT: case t_MAT: return t_POL;
    1788             :         case t_VEC: case t_COL:
    1789        1659 :           if (RgV_is_ZV(V)) return t_POL;
    1790        1617 :           break;
    1791           0 :         default: return -1;
    1792             :       }
    1793        1617 :       d = degpol(T); v = varn(T);
    1794        1617 :       if (d<1 || !RgX_is_ZX(T) || !isint1(gel(T,d+2)) || lg(V)-1!=d) return -1;
    1795       10150 :       for (i = 1; i <= d; i++)
    1796             :       { /* check integer basis */
    1797        8554 :         GEN c = gel(V,i);
    1798        8554 :         switch(typ(c))
    1799             :         {
    1800          28 :           case t_INT: break;
    1801        8526 :           case t_POL: if (varn(c) == v && RgX_is_QX(c) && degpol(c) < d) break;
    1802             :           /* fall through */
    1803          14 :           default: return -1;
    1804             :         }
    1805             :       }
    1806        1596 :       if (DKP && (typ(DKP) != t_VEC || !RgV_is_ZV(DKP))) return -1;
    1807        1596 :       return 0;
    1808             :   }
    1809           0 :   return t_VEC; /* nf or incorrect */
    1810             : }
    1811             : 
    1812             : /* cater for obsolete nf_PARTIALFACT flag */
    1813             : static void
    1814        1988 : nfinit_basic_partial(nfmaxord_t *S, GEN T)
    1815             : {
    1816        1988 :   if (typ(T) == t_POL) { nfmaxord(S, mkvec2(T,utoipos(500000)), 0); }
    1817         161 :   else nfinit_basic(S, T);
    1818        1988 : }
    1819             : /* true nf */
    1820             : static GEN
    1821        1609 : nf_basden(GEN nf)
    1822             : {
    1823        1609 :   GEN zkD = nf_get_zkprimpart(nf), D = nf_get_zkden(nf);
    1824        1609 :   D = equali1(D)? NULL: const_vec(lg(zkD)-1, D);
    1825        1609 :   return mkvec2(zkD, D);
    1826             : }
    1827             : void
    1828       17444 : nfinit_basic(nfmaxord_t *S, GEN T)
    1829             : {
    1830       17444 :   switch (nf_input_type(T))
    1831             :   {
    1832       15799 :     case t_POL: nfmaxord(S, T, 0); return;
    1833             :     case t_VEC:
    1834             :     { /* nf, bnf, bnr */
    1835          28 :       GEN nf = checknf(T);
    1836          28 :       S->T = S->T0 = nf_get_pol(nf);
    1837          28 :       S->basis = nf_get_zk(nf); /* probably useless */
    1838          28 :       S->basden = nf_basden(nf);
    1839          28 :       S->index = nf_get_index(nf);
    1840          28 :       S->dK = nf_get_disc(nf);
    1841          28 :       S->dKP = nf_get_ramified_primes(nf);
    1842          28 :       S->dT = mulii(S->dK, sqri(S->index));
    1843          28 :       S->r1 = nf_get_r1(nf); break;
    1844             :     }
    1845             :     case 0: /* monic integral polynomial + integer basis (+ ramified primes)*/
    1846        1596 :       S->T = S->T0 = gel(T,1);
    1847        1596 :       S->basis = gel(T,2);
    1848        1596 :       S->basden = NULL;
    1849        1596 :       S->index = NULL;
    1850        1596 :       S->dK = NULL;
    1851        1596 :       S->dKP = lg(T) == 4? gel(T,3): NULL;
    1852        1596 :       S->dT = NULL;
    1853        1596 :       S->r1 = -1; break;
    1854             :     default: /* -1 */
    1855          21 :       pari_err_TYPE("nfinit_basic", T);
    1856             :   }
    1857        1624 :   S->dTP = S->dTE = S->dKE = NULL;
    1858        1624 :   S->unscale = gen_1;
    1859             : }
    1860             : 
    1861             : GEN
    1862       18501 : nfinit_complete(nfmaxord_t *S, long flag, long prec)
    1863             : {
    1864             :   GEN nf, unscale;
    1865             : 
    1866       18501 :   if (!ZX_is_irred(S->T)) pari_err_IRREDPOL("nfinit",S->T);
    1867       18501 :   if (!(flag & nf_RED) && !ZX_is_monic(S->T0))
    1868             :   {
    1869          56 :     pari_warn(warner,"non-monic polynomial. Result of the form [nf,c]");
    1870          56 :     flag |= nf_RED | nf_ORIG;
    1871             :   }
    1872       18501 :   unscale = S->unscale;
    1873       18501 :   if (!(flag & nf_RED) && !isint1(unscale))
    1874             :   { /* implies lc(x0) = 1 and L := 1/unscale is integral */
    1875         308 :     long d = degpol(S->T0);
    1876         308 :     GEN L = ginv(unscale); /* x = L^(-deg(x)) x0(L X) */
    1877         308 :     GEN f= powiu(L, (d*(d-1)) >> 1);
    1878         308 :     S->T = S->T0; /* restore original user-supplied x0, unscale data */
    1879         308 :     S->unscale = gen_1;
    1880         308 :     S->dT    = gmul(S->dT, sqri(f));
    1881         308 :     S->basis   = RgXV_unscale(S->basis, unscale);
    1882         308 :     S->index = gmul(S->index, f);
    1883             :   }
    1884       18501 :   nfmaxord_complete(S); /* more expensive after set_LLL_basis */
    1885       18501 :   if (flag & nf_RED)
    1886             :   {
    1887             :     GEN ro, rev;
    1888             :     /* lie to polred: more efficient to update *after* modreverse, than to
    1889             :      * unscale in the polred subsystem */
    1890         287 :     S->unscale = gen_1;
    1891         287 :     rev = nfpolred(S, &ro);
    1892         287 :     nf = nfmaxord_to_nf(S, ro, prec);
    1893         287 :     if (flag & nf_ORIG)
    1894             :     {
    1895          77 :       if (!rev) rev = pol_x(varn(S->T)); /* no improvement */
    1896          77 :       if (!isint1(unscale)) rev = RgX_Rg_div(rev, unscale);
    1897          77 :       nf = mkvec2(nf, mkpolmod(rev, S->T));
    1898             :     }
    1899         287 :     S->unscale = unscale; /* restore */
    1900             :   } else {
    1901       18214 :     GEN ro; set_LLL_basis(S, &ro, 0.99);
    1902       18214 :     nf = nfmaxord_to_nf(S, ro, prec);
    1903             :   }
    1904       18501 :   return nf;
    1905             : }
    1906             : /* Initialize the number field defined by the polynomial x (in variable v)
    1907             :  * flag & nf_RED:     try a polred first.
    1908             :  * flag & nf_ORIG
    1909             :  *    do a polred and return [nfinit(x), Mod(a,red)], where
    1910             :  *    Mod(a,red) = Mod(v,x) (i.e return the base change). */
    1911             : GEN
    1912        5285 : nfinitall(GEN x, long flag, long prec)
    1913             : {
    1914        5285 :   const pari_sp av = avma;
    1915             :   nfmaxord_t S;
    1916             :   GEN nf;
    1917             : 
    1918        5285 :   if (checkrnf_i(x)) return rnf_build_nfabs(x, prec);
    1919        5278 :   nfinit_basic(&S, x);
    1920        5257 :   nf = nfinit_complete(&S, flag, prec);
    1921        5257 :   return gerepilecopy(av, nf);
    1922             : }
    1923             : 
    1924             : GEN
    1925           0 : nfinitred(GEN x, long prec)  { return nfinitall(x, nf_RED, prec); }
    1926             : GEN
    1927           0 : nfinitred2(GEN x, long prec) { return nfinitall(x, nf_RED|nf_ORIG, prec); }
    1928             : GEN
    1929        2436 : nfinit(GEN x, long prec)     { return nfinitall(x, 0, prec); }
    1930             : 
    1931             : GEN
    1932        2849 : nfinit0(GEN x, long flag,long prec)
    1933             : {
    1934        2849 :   switch(flag)
    1935             :   {
    1936             :     case 0:
    1937        2632 :     case 1: return nfinitall(x,0,prec);
    1938         196 :     case 2: case 4: return nfinitall(x,nf_RED,prec);
    1939          21 :     case 3: case 5: return nfinitall(x,nf_RED|nf_ORIG,prec);
    1940           0 :     default: pari_err_FLAG("nfinit");
    1941             :   }
    1942             :   return NULL; /* LCOV_EXCL_LINE */
    1943             : }
    1944             : 
    1945             : /* assume x a bnr/bnf/nf */
    1946             : long
    1947      299701 : nf_get_prec(GEN x)
    1948             : {
    1949      299701 :   GEN nf = checknf(x), ro = nf_get_roots(nf);
    1950      299701 :   return (typ(ro)==t_VEC)? precision(gel(ro,1)): DEFAULTPREC;
    1951             : }
    1952             : 
    1953             : /* true nf */
    1954             : GEN
    1955        1581 : nfnewprec_shallow(GEN nf, long prec)
    1956             : {
    1957        1581 :   GEN m, NF = leafcopy(nf);
    1958             :   nffp_t F;
    1959             : 
    1960        1581 :   F.T  = nf_get_pol(nf);
    1961        1581 :   F.ro = NULL;
    1962        1581 :   F.r1 = nf_get_r1(nf);
    1963        1581 :   F.basden = nf_basden(nf);
    1964        1581 :   F.extraprec = -1;
    1965        1581 :   F.prec = prec; make_M_G(&F, 1);
    1966        1581 :   gel(NF,5) = m = leafcopy(gel(NF,5));
    1967        1581 :   gel(m,1) = F.M;
    1968        1581 :   gel(m,2) = F.G;
    1969        1581 :   gel(NF,6) = F.ro; return NF;
    1970             : }
    1971             : 
    1972             : GEN
    1973          70 : nfnewprec(GEN nf, long prec)
    1974             : {
    1975             :   GEN z;
    1976          70 :   switch(nftyp(nf))
    1977             :   {
    1978          49 :     default: pari_err_TYPE("nfnewprec", nf);
    1979          14 :     case typ_BNF: z = bnfnewprec(nf,prec); break;
    1980           7 :     case typ_BNR: z = bnrnewprec(nf,prec); break;
    1981             :     case typ_NF: {
    1982           0 :       pari_sp av = avma;
    1983           0 :       z = gerepilecopy(av, nfnewprec_shallow(checknf(nf), prec));
    1984           0 :       break;
    1985             :     }
    1986             :   }
    1987          21 :   return z;
    1988             : }
    1989             : 
    1990             : /********************************************************************/
    1991             : /**                                                                **/
    1992             : /**                           POLRED                               **/
    1993             : /**                                                                **/
    1994             : /********************************************************************/
    1995             : GEN
    1996           0 : embednorm_T2(GEN x, long r1)
    1997             : {
    1998           0 :   pari_sp av = avma;
    1999           0 :   GEN p = RgV_sumpart(x, r1);
    2000           0 :   GEN q = RgV_sumpart2(x,r1+1, lg(x)-1);
    2001           0 :   if (q != gen_0) p = gadd(p, gmul2n(q,1));
    2002           0 :   return avma == av? gcopy(p): gerepileupto(av, p);
    2003             : }
    2004             : 
    2005             : /* simplified version of gnorm for scalar, non-complex inputs, without GC */
    2006             : static GEN
    2007       12054 : real_norm(GEN x)
    2008             : {
    2009       12054 :   switch(typ(x))
    2010             :   {
    2011           0 :     case t_INT:  return sqri(x);
    2012       12054 :     case t_REAL: return sqrr(x);
    2013           0 :     case t_FRAC: return sqrfrac(x);
    2014             :   }
    2015           0 :   pari_err_TYPE("real_norm", x);
    2016           0 :   return NULL;
    2017             : }
    2018             : /* simplified version of gnorm, without GC */
    2019             : static GEN
    2020     4242154 : complex_norm(GEN x)
    2021             : {
    2022     4242154 :   return typ(x) == t_COMPLEX? cxnorm(x): real_norm(x);
    2023             : }
    2024             : /* return T2(x), argument r1 needed in case x has components whose type
    2025             :  * is unexpected, e.g. all of them t_INT for embed(gen_1) */
    2026             : GEN
    2027        3508 : embed_T2(GEN x, long r1)
    2028             : {
    2029        3508 :   pari_sp av = avma;
    2030        3508 :   long i, l = lg(x);
    2031        3508 :   GEN c, s = NULL, t = NULL;
    2032        3508 :   if (typ(gel(x,1)) == t_INT) return muliu(gel(x,1), 2*(l-1)-r1);
    2033       15562 :   for (i = 1; i <= r1; i++)
    2034             :   {
    2035       12054 :     c = real_norm(gel(x,i));
    2036       12054 :     s = s? gadd(s, c): c;
    2037             :   }
    2038       12687 :   for (; i < l; i++)
    2039             :   {
    2040        9179 :     c = complex_norm(gel(x,i));
    2041        9179 :     t = t? gadd(t, c): c;
    2042             :   }
    2043        3508 :   if (t) { t = gmul2n(t,1); s = s? gadd(s,t): t; }
    2044        3508 :   return gerepileupto(av, s);
    2045             : }
    2046             : /* return N(x) */
    2047             : GEN
    2048     3021790 : embed_norm(GEN x, long r1)
    2049             : {
    2050     3021790 :   pari_sp av = avma;
    2051     3021790 :   long i, l = lg(x);
    2052     3021790 :   GEN c, s = NULL, t = NULL;
    2053     3021790 :   if (typ(gel(x,1)) == t_INT) return powiu(gel(x,1), 2*(l-1)-r1);
    2054     7601378 :   for (i = 1; i <= r1; i++)
    2055             :   {
    2056     4584253 :     c = gel(x,i);
    2057     4584253 :     s = s? gmul(s, c): c;
    2058             :   }
    2059     7250100 :   for (; i < l; i++)
    2060             :   {
    2061     4232975 :     c = complex_norm(gel(x,i));
    2062     4232975 :     t = t? gmul(t, c): c;
    2063             :   }
    2064     3017125 :   if (t) s = s? gmul(s,t): t;
    2065     3017125 :   return gerepileupto(av, s);
    2066             : }
    2067             : 
    2068             : typedef struct {
    2069             :   long r1, v, prec;
    2070             :   GEN ZKembed; /* embeddings of fincke-pohst-reduced Zk basis */
    2071             :   GEN u; /* matrix giving fincke-pohst-reduced Zk basis */
    2072             :   GEN M; /* embeddings of initial (LLL-reduced) Zk basis */
    2073             :   GEN bound; /* T2 norm of the polynomial defining nf */
    2074             :   long expo_best_disc; /* expo(disc(x)), best generator so far */
    2075             : } CG_data;
    2076             : 
    2077             : /* characteristic pol of x (given by embeddings) */
    2078             : static GEN
    2079       57525 : get_pol(CG_data *d, GEN x)
    2080             : {
    2081             :   long e;
    2082       57525 :   GEN g = grndtoi(roots_to_pol_r1(x, d->v, d->r1), &e);
    2083       57525 :   return (e > -5)? NULL: g;
    2084             : }
    2085             : 
    2086             : /* characteristic pol of x (given as vector on (w_i)) */
    2087             : static GEN
    2088       32006 : get_polchar(CG_data *d, GEN x)
    2089       32006 : { return get_pol(d, RgM_RgC_mul(d->ZKembed,x)); }
    2090             : 
    2091             : /* Choose a canonical polynomial in the pair { Pmin_a, Pmin_{-a} }, i.e.
    2092             :  * { z(X), (-1)^(deg z) z(-Z) } and keeping the smallest wrt cmpii_polred
    2093             :  * Either leave z alone (return 1) or set z <- (-1)^n z(-X). In place. */
    2094             : static int
    2095       30146 : ZX_canon_neg(GEN z)
    2096             : {
    2097             :   long i, s;
    2098      237590 :   for (i = lg(z)-2; i >= 2; i -= 2)
    2099             :   { /* examine the odd (resp. even) part of z if deg(z) even (resp. odd). */
    2100      112936 :     s = signe(gel(z,i));
    2101      112936 :     if (!s) continue;
    2102             :     /* non trivial */
    2103       24287 :     if (s < 0) break; /* z(X) < (-1)^n z(-X) */
    2104             : 
    2105       10643 :     for (; i>=2; i-=2) gel(z,i) = negi(gel(z,i));
    2106       10643 :     return 1;
    2107             :   }
    2108       19503 :   return 0;
    2109             : }
    2110             : /* return a defining polynomial for Q(alpha), v = embeddings of alpha.
    2111             :  * Return NULL on failure: discriminant too large or non primitive */
    2112             : static GEN
    2113       35868 : try_polmin(CG_data *d, nfmaxord_t *S, GEN v, long flag, GEN *ai)
    2114             : {
    2115       35868 :   const long best = flag & nf_ABSOLUTE;
    2116             :   long ed;
    2117       35868 :   pari_sp av = avma;
    2118             :   GEN g;
    2119       35868 :   if (best)
    2120             :   {
    2121       34993 :     ed = expo(embed_disc(v, d->r1, LOWDEFAULTPREC));
    2122       34993 :     set_avma(av); if (d->expo_best_disc < ed) return NULL;
    2123             :   }
    2124             :   else
    2125         875 :     ed = 0;
    2126       20110 :   g = get_pol(d, v);
    2127             :   /* accuracy too low, compute algebraically */
    2128       20110 :   if (!g) { set_avma(av); g = ZXQ_charpoly(*ai, S->T, varn(S->T)); }
    2129       20110 :   g = ZX_radical(g);
    2130       20110 :   if (best && degpol(g) != degpol(S->T)) return gc_NULL(av);
    2131        7849 :   g = gerepilecopy(av, g);
    2132        7849 :   d->expo_best_disc = ed;
    2133        7849 :   if (flag & nf_ORIG)
    2134             :   {
    2135        3346 :     if (ZX_canon_neg(g)) *ai = RgX_neg(*ai);
    2136        3346 :     if (!isint1(S->unscale)) *ai = RgX_unscale(*ai, S->unscale);
    2137             :   }
    2138             :   else
    2139        4503 :     (void)ZX_canon_neg(g);
    2140        7849 :   if (DEBUGLEVEL>3) err_printf("polred: generator %Ps\n", g);
    2141        7849 :   return g;
    2142             : }
    2143             : 
    2144             : /* does x generate the correct field ? */
    2145             : static GEN
    2146       32006 : chk_gen(void *data, GEN x)
    2147             : {
    2148       32006 :   pari_sp av = avma, av1;
    2149       32006 :   GEN h, g = get_polchar((CG_data*)data,x);
    2150       32006 :   if (!g) pari_err_PREC("chk_gen");
    2151       32006 :   av1 = avma;
    2152       32006 :   h = ZX_gcd(g, ZX_deriv(g));
    2153       32006 :   if (degpol(h)) return gc_NULL(av);
    2154       22346 :   if (DEBUGLEVEL>3) err_printf("  generator: %Ps\n",g);
    2155       22346 :   set_avma(av1); return gerepileupto(av, g);
    2156             : }
    2157             : 
    2158             : static long
    2159        3150 : chk_gen_prec(long N, long bit)
    2160        3150 : { return nbits2prec(10 + (long)log2((double)N) + bit); }
    2161             : 
    2162             : /* v = [P,A] two vectors (of ZX and ZV resp.) of same length; remove duplicate
    2163             :  * polynomials in P, updating A, in place. Among elements having the same
    2164             :  * characteristic pol, choose the smallest according to ZV_abscmp */
    2165             : static void
    2166         833 : remove_duplicates(GEN v)
    2167             : {
    2168         833 :   GEN x, a, P = gel(v,1), A = gel(v,2);
    2169         833 :   long k, i, l = lg(P);
    2170         833 :   pari_sp av = avma;
    2171             : 
    2172         833 :   if (l < 2) return;
    2173         833 :   (void)sort_factor_pol(mkvec2(P, A), cmpii);
    2174         833 :   x = gel(P,1); a = gel(A,1);
    2175       21527 :   for  (k=1,i=2; i<l; i++)
    2176       20694 :     if (ZX_equal(gel(P,i), x))
    2177             :     {
    2178        4313 :       if (ZV_abscmp(gel(A,i), a) < 0) a = gel(A,i);
    2179             :     }
    2180             :     else
    2181             :     {
    2182       16381 :       gel(A,k) = a;
    2183       16381 :       gel(P,k) = x;
    2184       16381 :       k++;
    2185       16381 :       x = gel(P,i); a = gel(A,i);
    2186             :     }
    2187         833 :   l = k+1;
    2188         833 :   gel(A,k) = a; setlg(A,l);
    2189         833 :   gel(P,k) = x; setlg(P,l); set_avma(av);
    2190             : }
    2191             : 
    2192             : static void
    2193        2184 : polred_init(nfmaxord_t *S, nffp_t *F, CG_data *d)
    2194             : {
    2195        2184 :   long e, prec, n = degpol(S->T);
    2196             :   double log2rho;
    2197             :   GEN ro;
    2198        2184 :   set_LLL_basis(S, &ro, 0.9999);
    2199             :   /* || polchar ||_oo < 2^e ~ 2 (n * rho)^n, rho = max modulus of root */
    2200        2184 :   log2rho = ro ? (double)gexpo(ro): fujiwara_bound(S->T);
    2201        2184 :   e = n * (long)(log2rho + log2((double)n)) + 1;
    2202        2184 :   if (e < 0) e = 0; /* can occur if n = 1 */
    2203        2184 :   prec = chk_gen_prec(n, e);
    2204        2184 :   nffp_init(F,S,prec);
    2205        2184 :   F->ro = ro;
    2206        2184 :   make_M_G(F, 1);
    2207             : 
    2208        2184 :   d->v = varn(S->T);
    2209        2184 :   d->expo_best_disc = -1;
    2210        2184 :   d->ZKembed = NULL;
    2211        2184 :   d->M = NULL;
    2212        2184 :   d->u = NULL;
    2213        2184 :   d->r1= S->r1;
    2214        2184 : }
    2215             : static GEN
    2216         973 : findmindisc(GEN y)
    2217             : {
    2218         973 :   GEN x = gel(y,1), dx = NULL;
    2219         973 :   long i, l = lg(y);
    2220       15870 :   for (i = 2; i < l; i++)
    2221             :   {
    2222       14897 :     GEN yi = gel(y,i);
    2223       14897 :     if (ZX_is_better(yi,x,&dx)) x = yi;
    2224             :   }
    2225         973 :   return x;
    2226             : }
    2227             : /* filter [y,b] from polred_aux: keep a single polynomial of degree n in y
    2228             :  * [ the best wrt discriminant ordering ], but keep all non-primitive
    2229             :  * polynomials */
    2230             : static void
    2231        1218 : filter(GEN y, GEN b, long n)
    2232             : {
    2233             :   GEN x, a, dx;
    2234        1218 :   long i, k = 1, l = lg(y);
    2235        1218 :   a = x = dx = NULL;
    2236        9130 :   for (i = 1; i < l; i++)
    2237             :   {
    2238        7912 :     GEN yi = gel(y,i), ai = gel(b,i);
    2239        7912 :     if (degpol(yi) == n)
    2240             :     {
    2241        7744 :       pari_sp av = avma;
    2242        7744 :       if (!dx) dx = ZX_disc(yi);
    2243        6526 :       else if (!ZX_is_better(yi,x,&dx)) { set_avma(av); continue; }
    2244        1869 :       x = yi; a = ai; continue;
    2245             :     }
    2246         168 :     gel(y,k) = yi;
    2247         168 :     gel(b,k) = ai; k++;
    2248             :   }
    2249        1218 :   if (dx)
    2250             :   {
    2251        1218 :     gel(y,k) = x;
    2252        1218 :     gel(b,k) = a; k++;
    2253             :   }
    2254        1218 :   setlg(y, k);
    2255        1218 :   setlg(b, k);
    2256        1218 : }
    2257             : 
    2258             : static GEN
    2259        1246 : polred_aux(nfmaxord_t *S, GEN *pro, long flag)
    2260             : { /* only keep polynomials of max degree and best discriminant */
    2261        1246 :   const long best = flag & nf_ABSOLUTE;
    2262        1246 :   const long orig = flag & nf_ORIG;
    2263        1246 :   GEN M, b, y, x = S->T;
    2264        1246 :   long maxi, i, j, k, v = varn(x), n = lg(S->basis)-1;
    2265             :   nffp_t F;
    2266             :   CG_data d;
    2267             : 
    2268        1246 :   if (n == 1)
    2269             :   {
    2270          28 :     if (!best)
    2271             :     {
    2272          14 :       GEN X = pol_x(v);
    2273          14 :       return orig? mkmat2(mkcol(X),mkcol(gen_1)): mkvec(X);
    2274             :     }
    2275             :     else
    2276          14 :       return orig? trivial_fact(): cgetg(1,t_VEC);
    2277             :   }
    2278             : 
    2279        1218 :   polred_init(S, &F, &d);
    2280        1218 :   if (pro) *pro = F.ro;
    2281        1218 :   M = F.M;
    2282        1218 :   if (best)
    2283             :   {
    2284        1155 :     if (!S->dT) S->dT = ZX_disc(S->T);
    2285        1155 :     d.expo_best_disc = expi(S->dT);
    2286             :   }
    2287             : 
    2288             :   /* n + 2 sum_{1 <= i <= n} n-i = n + n(n-1) = n*n */
    2289        1218 :   y = cgetg(n*n + 1, t_VEC);
    2290        1218 :   b = cgetg(n*n + 1, t_COL);
    2291        1218 :   k = 1;
    2292        1218 :   if (!best) { gel(y,1) = pol_x(v); gel(b,1) = gen_0; k++; }
    2293        7308 :   for (i = 2; i <= n; i++)
    2294             :   {
    2295             :     GEN ch, ai;
    2296        6090 :     ai = gel(S->basis,i);
    2297        6090 :     ch = try_polmin(&d, S, gel(M,i), flag, &ai);
    2298        6090 :     if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2299             :   }
    2300        1218 :   maxi = minss(n, 3);
    2301        4599 :   for (i = 1; i <= maxi; i++)
    2302       18270 :     for (j = i+1; j <= n; j++)
    2303             :     {
    2304             :       GEN ch, ai, v;
    2305       14889 :       ai = gadd(gel(S->basis,i), gel(S->basis,j));
    2306       14889 :       v = RgV_add(gel(M,i), gel(M,j));
    2307             :       /* defining polynomial for Q(w_i+w_j) */
    2308       14889 :       ch = try_polmin(&d, S, v, flag, &ai);
    2309       14889 :       if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2310             : 
    2311       14889 :       ai = gsub(gel(S->basis,i), gel(S->basis,j));
    2312       14889 :       v = RgV_sub(gel(M,i), gel(M,j));
    2313             :       /* defining polynomial for Q(w_i-w_j) */
    2314       14889 :       ch = try_polmin(&d, S, v, flag, &ai);
    2315       14889 :       if (ch) { gel(y,k) = ch; gel(b,k) = ai; k++; }
    2316             :     }
    2317        1218 :   setlg(y, k);
    2318        1218 :   setlg(b, k); filter(y, b, n);
    2319        1218 :   if (!orig) return gen_sort_uniq(y, (void*)cmpii, &gen_cmp_RgX);
    2320         511 :   settyp(y, t_COL);
    2321         511 :   (void)sort_factor_pol(mkmat2(y, b), cmpii);
    2322         511 :   return mkmat2(b, y);
    2323             : }
    2324             : 
    2325             : /* FIXME: obsolete */
    2326             : static GEN
    2327          84 : Polred(GEN x, long flag, GEN fa)
    2328             : {
    2329          84 :   pari_sp av = avma;
    2330             :   nfmaxord_t S;
    2331          84 :   if (fa)
    2332          14 :     nfinit_basic(&S, mkvec2(x,fa));
    2333          70 :   else if (flag & nf_PARTIALFACT)
    2334          28 :     nfinit_basic_partial(&S, x);
    2335             :   else
    2336          42 :     nfinit_basic(&S, x);
    2337          77 :   return gerepilecopy(av, polred_aux(&S, NULL, flag));
    2338             : }
    2339             : 
    2340             : /* finds "best" polynomial in polred_aux list, defaulting to S->T if none of
    2341             :  * them is primitive. *px is the ZX, characteristic polynomial of Mod(*pb,S->T),
    2342             :  * *pdx its discriminant if pdx != NULL. Set *pro = polroots(S->T) */
    2343             : static void
    2344        1169 : polredbest_aux(nfmaxord_t *S, GEN *pro, GEN *px, GEN *pdx, GEN *pb)
    2345             : {
    2346        1169 :   GEN y, dx, x = S->T; /* default value */
    2347             :   long i, l;
    2348        1169 :   y = polred_aux(S, pro, pb? nf_ORIG|nf_ABSOLUTE: nf_ABSOLUTE);
    2349        1169 :   dx = S->dT;
    2350        1169 :   if (pb)
    2351             :   {
    2352         497 :     GEN a, b = deg1pol_shallow(S->unscale, gen_0, varn(x));
    2353         497 :     a = gel(y,1); l = lg(a);
    2354         497 :     y = gel(y,2);
    2355         987 :     for (i=1; i<l; i++)
    2356             :     {
    2357         490 :       GEN yi = gel(y,i);
    2358         490 :       pari_sp av = avma;
    2359         490 :       if (ZX_is_better(yi,x,&dx)) { x = yi; b = gel(a,i); } else set_avma(av);
    2360             :     }
    2361         497 :     *pb = b;
    2362             :   }
    2363             :   else
    2364             :   {
    2365         672 :     l = lg(y);
    2366        1337 :     for (i=1; i<l; i++)
    2367             :     {
    2368         665 :       GEN yi = gel(y,i);
    2369         665 :       pari_sp av = avma;
    2370         665 :       if (ZX_is_better(yi,x,&dx)) x = yi; else set_avma(av);
    2371             :     }
    2372             :   }
    2373        1169 :   if (pdx) { if (!dx) dx = ZX_disc(x); *pdx = dx; }
    2374        1169 :   *px = x;
    2375        1169 : }
    2376             : static GEN
    2377         980 : polredbest_i(GEN T0, long flag)
    2378             : {
    2379         980 :   GEN T = T0, a;
    2380             :   nfmaxord_t S;
    2381         980 :   nfinit_basic_partial(&S, T);
    2382         980 :   polredbest_aux(&S, NULL, &T, NULL, flag? &a: NULL);
    2383         980 :   if (flag == 2)
    2384         280 :     T = mkvec2(T, a);
    2385         700 :   else if (flag == 1)
    2386             :   {
    2387          28 :     GEN b = (T0 == T)? pol_x(varn(T)): QXQ_reverse(a, T0);
    2388             :     /* charpoly(Mod(a,T0)) = T; charpoly(Mod(b,T)) = S.x */
    2389          28 :     if (degpol(T) == 1) b = grem(b,T);
    2390          28 :     T = mkvec2(T, mkpolmod(b,T));
    2391             :   }
    2392         980 :   return T;
    2393             : }
    2394             : GEN
    2395         693 : polredbest(GEN T, long flag)
    2396             : {
    2397         693 :   pari_sp av = avma;
    2398         693 :   if (flag < 0 || flag > 1) pari_err_FLAG("polredbest");
    2399         693 :   return gerepilecopy(av, polredbest_i(T, flag));
    2400             : }
    2401             : /* DEPRECATED: backward compatibility */
    2402             : GEN
    2403          70 : polred0(GEN x, long flag, GEN fa)
    2404             : {
    2405          70 :   long fl = 0;
    2406          70 :   if (flag & 1) fl |= nf_PARTIALFACT;
    2407          70 :   if (flag & 2) fl |= nf_ORIG;
    2408          70 :   return Polred(x, fl, fa);
    2409             : }
    2410             : 
    2411             : GEN
    2412          21 : polredord(GEN x)
    2413             : {
    2414          21 :   pari_sp av = avma;
    2415             :   GEN v, lt;
    2416             :   long i, n, vx;
    2417             : 
    2418          21 :   if (typ(x) != t_POL) pari_err_TYPE("polredord",x);
    2419          21 :   x = Q_primpart(x); RgX_check_ZX(x,"polredord");
    2420          21 :   n = degpol(x); if (n <= 0) pari_err_CONSTPOL("polredord");
    2421          21 :   if (n == 1) return gerepilecopy(av, mkvec(x));
    2422          14 :   lt = leading_coeff(x); vx = varn(x);
    2423          14 :   if (is_pm1(lt))
    2424             :   {
    2425           7 :     if (signe(lt) < 0) x = ZX_neg(x);
    2426           7 :     v = pol_x_powers(n, vx);
    2427             :   }
    2428             :   else
    2429             :   { GEN L;
    2430             :     /* basis for Dedekind order */
    2431           7 :     v = cgetg(n+1, t_VEC);
    2432           7 :     gel(v,1) = scalarpol_shallow(lt, vx);
    2433          14 :     for (i = 2; i <= n; i++)
    2434           7 :       gel(v,i) = RgX_Rg_add(RgX_mulXn(gel(v,i-1), 1), gel(x,n+3-i));
    2435           7 :     gel(v,1) = pol_1(vx);
    2436           7 :     x = ZX_Q_normalize(x, &L);
    2437           7 :     v = gsubst(v, vx, monomial(ginv(L),1,vx));
    2438          14 :     for (i=2; i <= n; i++)
    2439           7 :       if (Q_denom(gel(v,i)) == gen_1) gel(v,i) = pol_xn(i-1, vx);
    2440             :   }
    2441          14 :   return gerepileupto(av, polred(mkvec2(x, v)));
    2442             : }
    2443             : 
    2444             : GEN
    2445          14 : polred(GEN x) { return Polred(x, 0, NULL); }
    2446             : GEN
    2447           0 : smallpolred(GEN x) { return Polred(x, nf_PARTIALFACT, NULL); }
    2448             : GEN
    2449           0 : factoredpolred(GEN x, GEN fa) { return Polred(x, 0, fa); }
    2450             : GEN
    2451           0 : polred2(GEN x) { return Polred(x, nf_ORIG, NULL); }
    2452             : GEN
    2453           0 : smallpolred2(GEN x) { return Polred(x, nf_PARTIALFACT|nf_ORIG, NULL); }
    2454             : GEN
    2455           0 : factoredpolred2(GEN x, GEN fa) { return Polred(x, nf_PARTIALFACT, fa); }
    2456             : 
    2457             : /********************************************************************/
    2458             : /**                                                                **/
    2459             : /**                           POLREDABS                            **/
    2460             : /**                                                                **/
    2461             : /********************************************************************/
    2462             : /* set V[k] := matrix of multiplication by nk.zk[k] */
    2463             : static GEN
    2464        2653 : set_mulid(GEN V, GEN M, GEN Mi, long r1, long r2, long N, long k)
    2465             : {
    2466        2653 :   GEN v, Mk = cgetg(N+1, t_MAT);
    2467             :   long i, e;
    2468        2653 :   for (i = 1; i < k; i++) gel(Mk,i) = gmael(V, i, k);
    2469       20398 :   for (     ; i <=N; i++)
    2470             :   {
    2471       17745 :     v = vecmul(gel(M,k), gel(M,i));
    2472       17745 :     v = RgM_RgC_mul(Mi, split_realimag(v, r1, r2));
    2473       17745 :     gel(Mk,i) = grndtoi(v, &e);
    2474       17745 :     if (e > -5) return NULL;
    2475             :   }
    2476        2653 :   gel(V,k) = Mk; return Mk;
    2477             : }
    2478             : 
    2479             : static GEN
    2480        2407 : ZM_image_shallow(GEN M, long *pr)
    2481             : {
    2482             :   long j, k, r;
    2483        2407 :   GEN y, d = ZM_pivots(M, &k);
    2484        2407 :   r = lg(M)-1 - k;
    2485        2407 :   y = cgetg(r+1,t_MAT);
    2486       15904 :   for (j=k=1; j<=r; k++)
    2487       13497 :     if (d[k]) gel(y,j++) = gel(M,k);
    2488        2407 :   *pr = r; return y;
    2489             : }
    2490             : 
    2491             : /* U = base change matrix, R = Cholesky form of the quadratic form [matrix
    2492             :  * Q from algo 2.7.6] */
    2493             : static GEN
    2494         974 : chk_gen_init(FP_chk_fun *chk, GEN R, GEN U)
    2495             : {
    2496         974 :   CG_data *d = (CG_data*)chk->data;
    2497             :   GEN P, V, D, inv, bound, S, M;
    2498         974 :   long N = lg(U)-1, r1 = d->r1, r2 = (N-r1)>>1;
    2499         974 :   long i, j, prec, firstprim = 0, skipfirst = 0;
    2500             :   pari_sp av;
    2501             : 
    2502         974 :   d->u = U;
    2503         974 :   d->ZKembed = M = RgM_mul(d->M, U);
    2504             : 
    2505         974 :   av = avma; bound = d->bound;
    2506         974 :   D = cgetg(N+1, t_VECSMALL);
    2507        6359 :   for (i = 1; i <= N; i++)
    2508             :   {
    2509        5393 :     pari_sp av2 = avma;
    2510        5393 :     P = get_pol(d, gel(M,i));
    2511        5393 :     if (!P) pari_err_PREC("chk_gen_init");
    2512        5385 :     P = gerepilecopy(av2, ZX_radical(P));
    2513        5385 :     D[i] = degpol(P);
    2514        5385 :     if (D[i] == N)
    2515             :     { /* primitive element */
    2516        2332 :       GEN B = embed_T2(gel(M,i), r1);
    2517        2332 :       if (!firstprim) firstprim = i; /* index of first primitive element */
    2518        2332 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: generator %Ps\n",P);
    2519        2332 :       if (gcmp(B,bound) < 0) bound = gerepileuptoleaf(av2, B);
    2520             :     }
    2521             :     else
    2522             :     {
    2523        3053 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: subfield %Ps\n",P);
    2524        3053 :       if (firstprim)
    2525             :       { /* cycle basis vectors so that primitive elements come last */
    2526         397 :         GEN u = d->u, e = M;
    2527         397 :         GEN te = gel(e,i), tu = gel(u,i), tR = gel(R,i);
    2528         397 :         long tS = D[i];
    2529        1085 :         for (j = i; j > firstprim; j--)
    2530             :         {
    2531         688 :           u[j] = u[j-1];
    2532         688 :           e[j] = e[j-1];
    2533         688 :           R[j] = R[j-1];
    2534         688 :           D[j] = D[j-1];
    2535             :         }
    2536         397 :         gel(u,firstprim) = tu;
    2537         397 :         gel(e,firstprim) = te;
    2538         397 :         gel(R,firstprim) = tR;
    2539         397 :         D[firstprim] = tS; firstprim++;
    2540             :       }
    2541             :     }
    2542             :   }
    2543         966 :   if (!firstprim)
    2544             :   { /* try (a little) to find primitive elements to improve bound */
    2545          21 :     GEN x = cgetg(N+1, t_VECSMALL);
    2546          21 :     if (DEBUGLEVEL>1)
    2547           0 :       err_printf("chk_gen_init: difficult field, trying random elements\n");
    2548         231 :     for (i = 0; i < 10; i++)
    2549             :     {
    2550             :       GEN e, B;
    2551         210 :       for (j = 1; j <= N; j++) x[j] = (long)random_Fl(7) - 3;
    2552         210 :       e = RgM_zc_mul(M, x);
    2553         210 :       B = embed_T2(e, r1);
    2554         210 :       if (gcmp(B,bound) >= 0) continue;
    2555          16 :       P = get_pol(d, e); if (!P) pari_err_PREC( "chk_gen_init");
    2556          16 :       if (!ZX_is_squarefree(P)) continue;
    2557          16 :       if (DEBUGLEVEL>2) err_printf("chk_gen_init: generator %Ps\n",P);
    2558          16 :       bound = B ;
    2559             :     }
    2560             :   }
    2561             : 
    2562         966 :   if (firstprim != 1)
    2563             :   {
    2564         966 :     inv = ginv( split_realimag(M, r1, r2) ); /*TODO: use QR?*/
    2565         966 :     V = gel(inv,1);
    2566         966 :     for (i = 2; i <= r1+r2; i++) V = gadd(V, gel(inv,i));
    2567             :     /* V corresponds to 1_Z */
    2568         966 :     V = grndtoi(V, &j);
    2569         966 :     if (j > -5) pari_err_BUG("precision too low in chk_gen_init");
    2570         966 :     S = mkmat(V); /* 1 */
    2571             : 
    2572         966 :     V = cgetg(N+1, t_VEC);
    2573        3178 :     for (i = 1; i <= N; i++,skipfirst++)
    2574             :     { /* S = Q-basis of subfield generated by nf.zk[1..i-1] */
    2575             :       GEN Mx, M2;
    2576        3178 :       long j, k, h, rkM, dP = D[i];
    2577             : 
    2578        3178 :       if (dP == N) break; /* primitive */
    2579        2653 :       Mx = set_mulid(V, M, inv, r1, r2, N, i);
    2580        2653 :       if (!Mx) break; /* prec. problem. Stop */
    2581        2653 :       if (dP == 1) continue;
    2582        1820 :       rkM = lg(S)-1;
    2583        1820 :       M2 = cgetg(N+1, t_MAT); /* we will add to S the elts of M2 */
    2584        1820 :       gel(M2,1) = col_ei(N, i); /* nf.zk[i] */
    2585        1820 :       k = 2;
    2586        6048 :       for (h = 1; h < dP; h++)
    2587             :       {
    2588             :         long r; /* add to M2 the elts of S * nf.zk[i]  */
    2589        2407 :         for (j = 1; j <= rkM; j++) gel(M2,k++) = ZM_ZC_mul(Mx, gel(S,j));
    2590        2407 :         setlg(M2, k); k = 1;
    2591        2407 :         S = ZM_image_shallow(shallowconcat(S,M2), &r);
    2592        3610 :         if (r == rkM) break;
    2593        1645 :         if (r > rkM)
    2594             :         {
    2595        1645 :           rkM = r;
    2596        1645 :           if (rkM == N) break;
    2597             :         }
    2598             :       }
    2599        1820 :       if (rkM == N) break;
    2600             :       /* Q(w[1],...,w[i-1]) is a strict subfield of nf */
    2601             :     }
    2602             :   }
    2603             :   /* x_1,...,x_skipfirst generate a strict subfield [unless N=skipfirst=1] */
    2604         966 :   chk->skipfirst = skipfirst;
    2605         966 :   if (DEBUGLEVEL>2) err_printf("chk_gen_init: skipfirst = %ld\n",skipfirst);
    2606             : 
    2607             :   /* should be DEF + gexpo( max_k C^n_k (bound/k)^(k/2) ) */
    2608         966 :   bound = gerepileuptoleaf(av, bound);
    2609         966 :   prec = chk_gen_prec(N, (gexpo(bound)*N)/2);
    2610         966 :   if (DEBUGLEVEL)
    2611           0 :     err_printf("chk_gen_init: new prec = %ld (initially %ld)\n", prec, d->prec);
    2612         966 :   if (prec > d->prec) pari_err_BUG("polredabs (precision problem)");
    2613         966 :   if (prec < d->prec) d->ZKembed = gprec_w(M, prec);
    2614         966 :   return bound;
    2615             : }
    2616             : 
    2617             : static GEN
    2618         980 : polredabs_i(GEN x, nfmaxord_t *S, GEN *u, long flag)
    2619             : {
    2620         980 :   FP_chk_fun chk = { &chk_gen, &chk_gen_init, NULL, NULL, 0 };
    2621             :   nffp_t F;
    2622             :   CG_data d;
    2623             :   GEN v, y, a;
    2624             :   long i, l;
    2625             : 
    2626         980 :   nfinit_basic_partial(S, x);
    2627         980 :   x = S->T0;
    2628         980 :   if (degpol(x) == 1)
    2629             :   {
    2630          14 :     long vx = varn(x);
    2631          14 :     *u = NULL;
    2632          14 :     return mkvec2(mkvec( pol_x(vx) ),
    2633          14 :                   mkvec( deg1pol_shallow(gen_1, negi(gel(S->T,2)), vx) ));
    2634             :   }
    2635         966 :   if (!(flag & nf_PARTIALFACT) && S->dK && S->dKP)
    2636             :   {
    2637         315 :     GEN vw = primes_certify(S->dK, S->dKP);
    2638         315 :     v = gel(vw,1); l = lg(v);
    2639         315 :     if (l != 1)
    2640             :     { /* fix integral basis */
    2641          14 :       GEN w = gel(vw,2);
    2642          28 :       for (i = 1; i < l; i++)
    2643          14 :         w = ZV_union_shallow(w, gel(Z_factor(gel(v,i)),1));
    2644          14 :       nfinit_basic(S, mkvec2(S->T0,w));
    2645             :     }
    2646             :   }
    2647             : 
    2648         966 :   chk.data = (void*)&d;
    2649         966 :   polred_init(S, &F, &d);
    2650         966 :   d.bound = embed_T2(F.ro, d.r1);
    2651         966 :   if (realprec(d.bound) > F.prec) d.bound = rtor(d.bound, F.prec);
    2652             :   for (;;)
    2653          20 :   {
    2654         986 :     GEN R = R_from_QR(F.G, F.prec);
    2655         986 :     if (R)
    2656             :     {
    2657         974 :       d.prec = F.prec;
    2658         974 :       d.M    = F.M;
    2659         974 :       v = fincke_pohst(mkvec(R),NULL,-1, 0, &chk);
    2660         974 :       if (v) break;
    2661             :     }
    2662          20 :     F.prec = precdbl(F.prec);
    2663          20 :     F.ro = NULL;
    2664          20 :     make_M_G(&F, 1);
    2665          20 :     if (DEBUGLEVEL) pari_warn(warnprec,"polredabs0",F.prec);
    2666             :   }
    2667         966 :   y = gel(v,1);
    2668         966 :   a = gel(v,2); l = lg(a);
    2669       23263 :   for (i = 1; i < l; i++) /* normalize wrt z -> -z */
    2670       22297 :     if (ZX_canon_neg(gel(y,i)) && (flag & (nf_ORIG|nf_RAW)))
    2671        1346 :       gel(a,i) = ZC_neg(gel(a,i));
    2672         966 :   *u = d.u; return v;
    2673             : }
    2674             : 
    2675             : GEN
    2676         833 : polredabs0(GEN x, long flag)
    2677             : {
    2678         833 :   pari_sp av = avma;
    2679             :   GEN Y, A, u, v;
    2680             :   nfmaxord_t S;
    2681             :   long i, l;
    2682             : 
    2683         833 :   v = polredabs_i(x, &S, &u, flag);
    2684         833 :   remove_duplicates(v);
    2685         833 :   Y = gel(v,1);
    2686         833 :   A = gel(v,2);
    2687         833 :   l = lg(A); if (l == 1) pari_err_BUG("polredabs (missing vector)");
    2688         833 :   if (DEBUGLEVEL) err_printf("Found %ld minimal polynomials.\n",l-1);
    2689         833 :   if (!(flag & nf_ALL))
    2690             :   {
    2691         826 :     GEN y = findmindisc(Y);
    2692       11684 :     for (i = 1; i < l; i++)
    2693       11684 :       if (ZX_equal(gel(Y,i), y)) break;
    2694         826 :     Y = mkvec(gel(Y,i));
    2695         826 :     A = mkvec(gel(A,i)); l = 2;
    2696             :   }
    2697        1540 :   if (flag & (nf_RAW|nf_ORIG)) for (i = 1; i < l; i++)
    2698             :   {
    2699         707 :     GEN y = gel(Y,i), a = gel(A,i);
    2700         707 :     if (u) a = RgV_RgC_mul(S.basis, ZM_ZC_mul(u, a));
    2701         707 :     if (flag & nf_ORIG)
    2702             :     {
    2703         700 :       a = QXQ_reverse(a, S.T);
    2704         700 :       if (!isint1(S.unscale)) a = gdiv(a, S.unscale); /* not RgX_Rg_div */
    2705         700 :       a = mkpolmod(a,y);
    2706             :     }
    2707         707 :     gel(Y,i) = mkvec2(y, a);
    2708             :   }
    2709         833 :   return gerepilecopy(av, (flag & nf_ALL)? Y: gel(Y,1));
    2710             : }
    2711             : 
    2712             : GEN
    2713           0 : polredabsall(GEN x, long flun) { return polredabs0(x, flun | nf_ALL); }
    2714             : GEN
    2715           0 : polredabs(GEN x) { return polredabs0(x,0); }
    2716             : GEN
    2717           0 : polredabs2(GEN x) { return polredabs0(x,nf_ORIG); }
    2718             : 
    2719             : /* relative polredabs/best. Returns relative polynomial by default (flag = 0)
    2720             :  * flag & nf_ORIG: + element (base change)
    2721             :  * flag & nf_ABSOLUTE: absolute polynomial */
    2722             : static GEN
    2723         441 : rnfpolred_i(GEN nf, GEN R, long flag, long best)
    2724             : {
    2725         441 :   const char *f = best? "rnfpolredbest": "rnfpolredabs";
    2726         441 :   const long abs = ((flag & nf_ORIG) && (flag & nf_ABSOLUTE));
    2727         441 :   GEN listP = NULL, red, pol, A, P, T, rnfeq;
    2728         441 :   pari_sp av = avma;
    2729             : 
    2730         441 :   if (typ(R) == t_VEC) {
    2731          14 :     if (lg(R) != 3) pari_err_TYPE(f,R);
    2732          14 :     listP = gel(R,2);
    2733          14 :     R = gel(R,1);
    2734             :   }
    2735         441 :   if (typ(R) != t_POL) pari_err_TYPE(f,R);
    2736         441 :   nf = checknf(nf);
    2737         441 :   T = nf_get_pol(nf);
    2738         441 :   R = RgX_nffix(f, T, R, 0);
    2739         441 :   if (best || (flag & nf_PARTIALFACT))
    2740             :   {
    2741         294 :     rnfeq = abs? nf_rnfeq(nf, R): nf_rnfeqsimple(nf, R);
    2742         294 :     pol = gel(rnfeq,1);
    2743         294 :     if (listP) pol = mkvec2(pol, listP);
    2744         581 :     red = best? polredbest_i(pol, abs? 1: 2)
    2745         581 :               : polredabs0(pol, (abs? nf_ORIG: nf_RAW)|nf_PARTIALFACT);
    2746         294 :     P = gel(red,1);
    2747         294 :     A = gel(red,2);
    2748             :   }
    2749             :   else
    2750             :   {
    2751             :     nfmaxord_t S;
    2752             :     GEN rnf, u, v, y, a;
    2753             :     long i, j, l;
    2754             :     pari_timer ti;
    2755         147 :     if (DEBUGLEVEL>1) timer_start(&ti);
    2756         147 :     rnf = rnfinit(nf, R);
    2757         147 :     rnfeq = rnf_get_map(rnf);
    2758         147 :     pol = rnf_zkabs(rnf);
    2759         147 :     if (DEBUGLEVEL>1) timer_printf(&ti, "absolute basis");
    2760         147 :     v = polredabs_i(pol, &S, &u, nf_ORIG);
    2761         147 :     pol = gel(pol,1);
    2762         147 :     y = gel(v,1); P = findmindisc(y);
    2763         147 :     a = gel(v,2);
    2764         147 :     l = lg(y); A = cgetg(l, t_VEC);
    2765         931 :     for (i = j = 1; i < l; i++)
    2766         784 :       if (ZX_equal(gel(y,i),P))
    2767             :       {
    2768         672 :         GEN t = gel(a,i);
    2769         672 :         if (u) t = RgV_RgC_mul(S.basis, ZM_ZC_mul(u,t));
    2770         672 :         gel(A,j++) = t;
    2771             :       }
    2772         147 :     setlg(A,j); /* mod(A[i], pol) are all roots of P in Q[X]/(pol) */
    2773             :   }
    2774         441 :   if (DEBUGLEVEL>1) err_printf("reduced absolute generator: %Ps\n",P);
    2775         441 :   if (flag & nf_ABSOLUTE)
    2776             :   {
    2777          14 :     if (flag & nf_ORIG)
    2778             :     {
    2779           7 :       GEN a = gel(rnfeq,2); /* Mod(a,pol) root of T */
    2780           7 :       GEN k = gel(rnfeq,3); /* Mod(variable(R),R) + k*a root of pol */
    2781           7 :       if (typ(A) == t_VEC) A = gel(A,1); /* any root will do */
    2782           7 :       a = RgX_RgXQ_eval(a, lift_shallow(A), P); /* Mod(a, P) root of T */
    2783           7 :       P = mkvec3(P, mkpolmod(a,P), gsub(A, gmul(k,a)));
    2784             :     }
    2785          14 :     return gerepilecopy(av, P);
    2786             :   }
    2787         427 :   if (typ(A) != t_VEC)
    2788             :   {
    2789         287 :     A = eltabstorel_lift(rnfeq, A);
    2790         287 :     P = lift_if_rational( RgXQ_charpoly(A, R, varn(R)) );
    2791             :   }
    2792             :   else
    2793             :   { /* canonical factor */
    2794         140 :     long i, l = lg(A), v = varn(R);
    2795         140 :     GEN besta = NULL;
    2796         770 :     for (i = 1; i < l; i++)
    2797             :     {
    2798         630 :       GEN a = eltabstorel_lift(rnfeq, gel(A,i));
    2799         630 :       GEN p = lift_if_rational( RgXQ_charpoly(a, R, v) );
    2800         630 :       p = lift_if_rational(p);
    2801         630 :       if (i == 1 || cmp_universal(p, P) < 0) { P = p; besta = a; }
    2802             :     }
    2803         140 :     A = besta;
    2804             :   }
    2805         427 :   if (flag & nf_ORIG) P = mkvec2(P, mkpolmod(RgXQ_reverse(A,R),P));
    2806         427 :   return gerepilecopy(av, P);
    2807             : }
    2808             : GEN
    2809         154 : rnfpolredabs(GEN nf, GEN R, long flag)
    2810         154 : { return rnfpolred_i(nf,R,flag, 0); }
    2811             : GEN
    2812         287 : rnfpolredbest(GEN nf, GEN R, long flag)
    2813             : {
    2814         287 :   if (flag < 0 || flag > 3) pari_err_FLAG("rnfpolredbest");
    2815         287 :   return rnfpolred_i(nf,R,flag, 1);
    2816             : }

Generated by: LCOV version 1.13