Finalize 1.7.6 release.
[ginac.git] / ginac / matrix.cpp
1 /** @file matrix.cpp
2  *
3  *  Implementation of symbolic matrices */
4
5 /*
6  *  GiNaC Copyright (C) 1999-2019 Johannes Gutenberg University Mainz, Germany
7  *
8  *  This program is free software; you can redistribute it and/or modify
9  *  it under the terms of the GNU General Public License as published by
10  *  the Free Software Foundation; either version 2 of the License, or
11  *  (at your option) any later version.
12  *
13  *  This program is distributed in the hope that it will be useful,
14  *  but WITHOUT ANY WARRANTY; without even the implied warranty of
15  *  MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  *  GNU General Public License for more details.
17  *
18  *  You should have received a copy of the GNU General Public License
19  *  along with this program; if not, write to the Free Software
20  *  Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA  02110-1301  USA
21  */
22
23 #include "matrix.h"
24 #include "numeric.h"
25 #include "lst.h"
26 #include "idx.h"
27 #include "indexed.h"
28 #include "add.h"
29 #include "power.h"
30 #include "symbol.h"
31 #include "operators.h"
32 #include "normal.h"
33 #include "archive.h"
34 #include "utils.h"
35
36 #include <algorithm>
37 #include <iostream>
38 #include <map>
39 #include <sstream>
40 #include <stdexcept>
41 #include <string>
42
43 namespace GiNaC {
44
45 GINAC_IMPLEMENT_REGISTERED_CLASS_OPT(matrix, basic,
46   print_func<print_context>(&matrix::do_print).
47   print_func<print_latex>(&matrix::do_print_latex).
48   print_func<print_tree>(&matrix::do_print_tree).
49   print_func<print_python_repr>(&matrix::do_print_python_repr))
50
51 //////////
52 // default constructor
53 //////////
54
55 /** Default ctor.  Initializes to 1 x 1-dimensional zero-matrix. */
56 matrix::matrix() : row(1), col(1), m(1, _ex0)
57 {
58         setflag(status_flags::not_shareable);
59 }
60
61 //////////
62 // other constructors
63 //////////
64
65 // public
66
67 /** Very common ctor.  Initializes to r x c-dimensional zero-matrix.
68  *
69  *  @param r number of rows
70  *  @param c number of cols */
71 matrix::matrix(unsigned r, unsigned c) : row(r), col(c), m(r*c, _ex0)
72 {
73         setflag(status_flags::not_shareable);
74 }
75
76 /** Construct matrix from (flat) list of elements. If the list has fewer
77  *  elements than the matrix, the remaining matrix elements are set to zero.
78  *  If the list has more elements than the matrix, the excessive elements are
79  *  thrown away. */
80 matrix::matrix(unsigned r, unsigned c, const lst & l)
81   : row(r), col(c), m(r*c, _ex0)
82 {
83         setflag(status_flags::not_shareable);
84
85         size_t i = 0;
86         for (auto & it : l) {
87                 size_t x = i % c;
88                 size_t y = i / c;
89                 if (y >= r)
90                         break; // matrix smaller than list: throw away excessive elements
91                 m[y*c+x] = it;
92                 ++i;
93         }
94 }
95
96 /** Construct a matrix from an 2 dimensional initializer list.
97  *  Throws an exception if some row has a different length than all the others.
98  */
99 matrix::matrix(std::initializer_list<std::initializer_list<ex>> l)
100   : row(l.size()), col(l.begin()->size())
101 {
102         setflag(status_flags::not_shareable);
103
104         m.reserve(row*col);
105         for (const auto & r : l) {
106                 unsigned c = 0;
107                 for (const auto & e : r) {
108                         m.push_back(e);
109                         ++c;
110                 }
111                 if (c != col)
112                         throw std::invalid_argument("matrix::matrix{{}}: wrong dimension");
113         }
114 }
115
116 // protected
117
118 /** Ctor from representation, for internal use only. */
119 matrix::matrix(unsigned r, unsigned c, const exvector & m2)
120   : row(r), col(c), m(m2)
121 {
122         setflag(status_flags::not_shareable);
123 }
124 matrix::matrix(unsigned r, unsigned c, exvector && m2)
125   : row(r), col(c), m(std::move(m2))
126 {
127         setflag(status_flags::not_shareable);
128 }
129
130 //////////
131 // archiving
132 //////////
133
134 void matrix::read_archive(const archive_node &n, lst &sym_lst)
135 {
136         inherited::read_archive(n, sym_lst);
137
138         if (!(n.find_unsigned("row", row)) || !(n.find_unsigned("col", col)))
139                 throw (std::runtime_error("unknown matrix dimensions in archive"));
140         m.reserve(row * col);
141         // XXX: default ctor inserts a zero element, we need to erase it here.
142         m.pop_back();
143         auto first = n.find_first("m");
144         auto last = n.find_last("m");
145         ++last;
146         for (auto i=first; i != last; ++i) {
147                 ex e;
148                 n.find_ex_by_loc(i, e, sym_lst);
149                 m.push_back(e);
150         }
151 }
152 GINAC_BIND_UNARCHIVER(matrix);
153
154 void matrix::archive(archive_node &n) const
155 {
156         inherited::archive(n);
157         n.add_unsigned("row", row);
158         n.add_unsigned("col", col);
159         for (auto & i : m) {
160                 n.add_ex("m", i);
161         }
162 }
163
164 //////////
165 // functions overriding virtual functions from base classes
166 //////////
167
168 // public
169
170 void matrix::print_elements(const print_context & c, const char *row_start, const char *row_end, const char *row_sep, const char *col_sep) const
171 {
172         for (unsigned ro=0; ro<row; ++ro) {
173                 c.s << row_start;
174                 for (unsigned co=0; co<col; ++co) {
175                         m[ro*col+co].print(c);
176                         if (co < col-1)
177                                 c.s << col_sep;
178                         else
179                                 c.s << row_end;
180                 }
181                 if (ro < row-1)
182                         c.s << row_sep;
183         }
184 }
185
186 void matrix::do_print(const print_context & c, unsigned level) const
187 {
188         c.s << "[";
189         print_elements(c, "[", "]", ",", ",");
190         c.s << "]";
191 }
192
193 void matrix::do_print_latex(const print_latex & c, unsigned level) const
194 {
195         c.s << "\\left(\\begin{array}{" << std::string(col,'c') << "}";
196         print_elements(c, "", "", "\\\\", "&");
197         c.s << "\\end{array}\\right)";
198 }
199
200 void matrix::do_print_python_repr(const print_python_repr & c, unsigned level) const
201 {
202         c.s << class_name() << '(';
203         print_elements(c, "[", "]", ",", ",");
204         c.s << ')';
205 }
206
207 /** nops is defined to be rows x columns. */
208 size_t matrix::nops() const
209 {
210         return static_cast<size_t>(row) * static_cast<size_t>(col);
211 }
212
213 /** returns matrix entry at position (i/col, i%col). */
214 ex matrix::op(size_t i) const
215 {
216         GINAC_ASSERT(i<nops());
217         
218         return m[i];
219 }
220
221 /** returns writable matrix entry at position (i/col, i%col). */
222 ex & matrix::let_op(size_t i)
223 {
224         GINAC_ASSERT(i<nops());
225         
226         ensure_if_modifiable();
227         return m[i];
228 }
229
230 ex matrix::subs(const exmap & mp, unsigned options) const
231 {
232         exvector m2(row * col);
233         for (unsigned r=0; r<row; ++r)
234                 for (unsigned c=0; c<col; ++c)
235                         m2[r*col+c] = m[r*col+c].subs(mp, options);
236
237         return matrix(row, col, std::move(m2)).subs_one_level(mp, options);
238 }
239
240 /** Complex conjugate every matrix entry. */
241 ex matrix::conjugate() const
242 {
243         std::unique_ptr<exvector> ev(nullptr);
244         for (auto i=m.begin(); i!=m.end(); ++i) {
245                 ex x = i->conjugate();
246                 if (ev) {
247                         ev->push_back(x);
248                         continue;
249                 }
250                 if (are_ex_trivially_equal(x, *i)) {
251                         continue;
252                 }
253                 ev.reset(new exvector);
254                 ev->reserve(m.size());
255                 for (auto j=m.begin(); j!=i; ++j) {
256                         ev->push_back(*j);
257                 }
258                 ev->push_back(x);
259         }
260         if (ev) {
261                 return matrix(row, col, std::move(*ev));
262         }
263         return *this;
264 }
265
266 ex matrix::real_part() const
267 {
268         exvector v;
269         v.reserve(m.size());
270         for (auto & i : m)
271                 v.push_back(i.real_part());
272         return matrix(row, col, std::move(v));
273 }
274
275 ex matrix::imag_part() const
276 {
277         exvector v;
278         v.reserve(m.size());
279         for (auto & i : m)
280                 v.push_back(i.imag_part());
281         return matrix(row, col, std::move(v));
282 }
283
284 // protected
285
286 int matrix::compare_same_type(const basic & other) const
287 {
288         GINAC_ASSERT(is_exactly_a<matrix>(other));
289         const matrix &o = static_cast<const matrix &>(other);
290         
291         // compare number of rows
292         if (row != o.rows())
293                 return row < o.rows() ? -1 : 1;
294         
295         // compare number of columns
296         if (col != o.cols())
297                 return col < o.cols() ? -1 : 1;
298         
299         // equal number of rows and columns, compare individual elements
300         int cmpval;
301         for (unsigned r=0; r<row; ++r) {
302                 for (unsigned c=0; c<col; ++c) {
303                         cmpval = ((*this)(r,c)).compare(o(r,c));
304                         if (cmpval!=0) return cmpval;
305                 }
306         }
307         // all elements are equal => matrices are equal;
308         return 0;
309 }
310
311 bool matrix::match_same_type(const basic & other) const
312 {
313         GINAC_ASSERT(is_exactly_a<matrix>(other));
314         const matrix & o = static_cast<const matrix &>(other);
315         
316         // The number of rows and columns must be the same. This is necessary to
317         // prevent a 2x3 matrix from matching a 3x2 one.
318         return row == o.rows() && col == o.cols();
319 }
320
321 /** Automatic symbolic evaluation of an indexed matrix. */
322 ex matrix::eval_indexed(const basic & i) const
323 {
324         GINAC_ASSERT(is_a<indexed>(i));
325         GINAC_ASSERT(is_a<matrix>(i.op(0)));
326
327         bool all_indices_unsigned = static_cast<const indexed &>(i).all_index_values_are(info_flags::nonnegint);
328
329         // Check indices
330         if (i.nops() == 2) {
331
332                 // One index, must be one-dimensional vector
333                 if (row != 1 && col != 1)
334                         throw (std::runtime_error("matrix::eval_indexed(): vector must have exactly 1 index"));
335
336                 const idx & i1 = ex_to<idx>(i.op(1));
337
338                 if (col == 1) {
339
340                         // Column vector
341                         if (!i1.get_dim().is_equal(row))
342                                 throw (std::runtime_error("matrix::eval_indexed(): dimension of index must match number of vector elements"));
343
344                         // Index numeric -> return vector element
345                         if (all_indices_unsigned) {
346                                 unsigned n1 = ex_to<numeric>(i1.get_value()).to_int();
347                                 if (n1 >= row)
348                                         throw (std::runtime_error("matrix::eval_indexed(): value of index exceeds number of vector elements"));
349                                 return (*this)(n1, 0);
350                         }
351
352                 } else {
353
354                         // Row vector
355                         if (!i1.get_dim().is_equal(col))
356                                 throw (std::runtime_error("matrix::eval_indexed(): dimension of index must match number of vector elements"));
357
358                         // Index numeric -> return vector element
359                         if (all_indices_unsigned) {
360                                 unsigned n1 = ex_to<numeric>(i1.get_value()).to_int();
361                                 if (n1 >= col)
362                                         throw (std::runtime_error("matrix::eval_indexed(): value of index exceeds number of vector elements"));
363                                 return (*this)(0, n1);
364                         }
365                 }
366
367         } else if (i.nops() == 3) {
368
369                 // Two indices
370                 const idx & i1 = ex_to<idx>(i.op(1));
371                 const idx & i2 = ex_to<idx>(i.op(2));
372
373                 if (!i1.get_dim().is_equal(row))
374                         throw (std::runtime_error("matrix::eval_indexed(): dimension of first index must match number of rows"));
375                 if (!i2.get_dim().is_equal(col))
376                         throw (std::runtime_error("matrix::eval_indexed(): dimension of second index must match number of columns"));
377
378                 // Pair of dummy indices -> compute trace
379                 if (is_dummy_pair(i1, i2))
380                         return trace();
381
382                 // Both indices numeric -> return matrix element
383                 if (all_indices_unsigned) {
384                         unsigned n1 = ex_to<numeric>(i1.get_value()).to_int(), n2 = ex_to<numeric>(i2.get_value()).to_int();
385                         if (n1 >= row)
386                                 throw (std::runtime_error("matrix::eval_indexed(): value of first index exceeds number of rows"));
387                         if (n2 >= col)
388                                 throw (std::runtime_error("matrix::eval_indexed(): value of second index exceeds number of columns"));
389                         return (*this)(n1, n2);
390                 }
391
392         } else
393                 throw (std::runtime_error("matrix::eval_indexed(): matrix must have exactly 2 indices"));
394
395         return i.hold();
396 }
397
398 /** Sum of two indexed matrices. */
399 ex matrix::add_indexed(const ex & self, const ex & other) const
400 {
401         GINAC_ASSERT(is_a<indexed>(self));
402         GINAC_ASSERT(is_a<matrix>(self.op(0)));
403         GINAC_ASSERT(is_a<indexed>(other));
404         GINAC_ASSERT(self.nops() == 2 || self.nops() == 3);
405
406         // Only add two matrices
407         if (is_a<matrix>(other.op(0))) {
408                 GINAC_ASSERT(other.nops() == 2 || other.nops() == 3);
409
410                 const matrix &self_matrix = ex_to<matrix>(self.op(0));
411                 const matrix &other_matrix = ex_to<matrix>(other.op(0));
412
413                 if (self.nops() == 2 && other.nops() == 2) { // vector + vector
414
415                         if (self_matrix.row == other_matrix.row)
416                                 return indexed(self_matrix.add(other_matrix), self.op(1));
417                         else if (self_matrix.row == other_matrix.col)
418                                 return indexed(self_matrix.add(other_matrix.transpose()), self.op(1));
419
420                 } else if (self.nops() == 3 && other.nops() == 3) { // matrix + matrix
421
422                         if (self.op(1).is_equal(other.op(1)) && self.op(2).is_equal(other.op(2)))
423                                 return indexed(self_matrix.add(other_matrix), self.op(1), self.op(2));
424                         else if (self.op(1).is_equal(other.op(2)) && self.op(2).is_equal(other.op(1)))
425                                 return indexed(self_matrix.add(other_matrix.transpose()), self.op(1), self.op(2));
426
427                 }
428         }
429
430         // Don't know what to do, return unevaluated sum
431         return self + other;
432 }
433
434 /** Product of an indexed matrix with a number. */
435 ex matrix::scalar_mul_indexed(const ex & self, const numeric & other) const
436 {
437         GINAC_ASSERT(is_a<indexed>(self));
438         GINAC_ASSERT(is_a<matrix>(self.op(0)));
439         GINAC_ASSERT(self.nops() == 2 || self.nops() == 3);
440
441         const matrix &self_matrix = ex_to<matrix>(self.op(0));
442
443         if (self.nops() == 2)
444                 return indexed(self_matrix.mul(other), self.op(1));
445         else // self.nops() == 3
446                 return indexed(self_matrix.mul(other), self.op(1), self.op(2));
447 }
448
449 /** Contraction of an indexed matrix with something else. */
450 bool matrix::contract_with(exvector::iterator self, exvector::iterator other, exvector & v) const
451 {
452         GINAC_ASSERT(is_a<indexed>(*self));
453         GINAC_ASSERT(is_a<indexed>(*other));
454         GINAC_ASSERT(self->nops() == 2 || self->nops() == 3);
455         GINAC_ASSERT(is_a<matrix>(self->op(0)));
456
457         // Only contract with other matrices
458         if (!is_a<matrix>(other->op(0)))
459                 return false;
460
461         GINAC_ASSERT(other->nops() == 2 || other->nops() == 3);
462
463         const matrix &self_matrix = ex_to<matrix>(self->op(0));
464         const matrix &other_matrix = ex_to<matrix>(other->op(0));
465
466         if (self->nops() == 2) {
467
468                 if (other->nops() == 2) { // vector * vector (scalar product)
469
470                         if (self_matrix.col == 1) {
471                                 if (other_matrix.col == 1) {
472                                         // Column vector * column vector, transpose first vector
473                                         *self = self_matrix.transpose().mul(other_matrix)(0, 0);
474                                 } else {
475                                         // Column vector * row vector, swap factors
476                                         *self = other_matrix.mul(self_matrix)(0, 0);
477                                 }
478                         } else {
479                                 if (other_matrix.col == 1) {
480                                         // Row vector * column vector, perfect
481                                         *self = self_matrix.mul(other_matrix)(0, 0);
482                                 } else {
483                                         // Row vector * row vector, transpose second vector
484                                         *self = self_matrix.mul(other_matrix.transpose())(0, 0);
485                                 }
486                         }
487                         *other = _ex1;
488                         return true;
489
490                 } else { // vector * matrix
491
492                         // B_i * A_ij = (B*A)_j (B is row vector)
493                         if (is_dummy_pair(self->op(1), other->op(1))) {
494                                 if (self_matrix.row == 1)
495                                         *self = indexed(self_matrix.mul(other_matrix), other->op(2));
496                                 else
497                                         *self = indexed(self_matrix.transpose().mul(other_matrix), other->op(2));
498                                 *other = _ex1;
499                                 return true;
500                         }
501
502                         // B_j * A_ij = (A*B)_i (B is column vector)
503                         if (is_dummy_pair(self->op(1), other->op(2))) {
504                                 if (self_matrix.col == 1)
505                                         *self = indexed(other_matrix.mul(self_matrix), other->op(1));
506                                 else
507                                         *self = indexed(other_matrix.mul(self_matrix.transpose()), other->op(1));
508                                 *other = _ex1;
509                                 return true;
510                         }
511                 }
512
513         } else if (other->nops() == 3) { // matrix * matrix
514
515                 // A_ij * B_jk = (A*B)_ik
516                 if (is_dummy_pair(self->op(2), other->op(1))) {
517                         *self = indexed(self_matrix.mul(other_matrix), self->op(1), other->op(2));
518                         *other = _ex1;
519                         return true;
520                 }
521
522                 // A_ij * B_kj = (A*Btrans)_ik
523                 if (is_dummy_pair(self->op(2), other->op(2))) {
524                         *self = indexed(self_matrix.mul(other_matrix.transpose()), self->op(1), other->op(1));
525                         *other = _ex1;
526                         return true;
527                 }
528
529                 // A_ji * B_jk = (Atrans*B)_ik
530                 if (is_dummy_pair(self->op(1), other->op(1))) {
531                         *self = indexed(self_matrix.transpose().mul(other_matrix), self->op(2), other->op(2));
532                         *other = _ex1;
533                         return true;
534                 }
535
536                 // A_ji * B_kj = (B*A)_ki
537                 if (is_dummy_pair(self->op(1), other->op(2))) {
538                         *self = indexed(other_matrix.mul(self_matrix), other->op(1), self->op(2));
539                         *other = _ex1;
540                         return true;
541                 }
542         }
543
544         return false;
545 }
546
547
548 //////////
549 // non-virtual functions in this class
550 //////////
551
552 // public
553
554 /** Sum of matrices.
555  *
556  *  @exception logic_error (incompatible matrices) */
557 matrix matrix::add(const matrix & other) const
558 {
559         if (col != other.col || row != other.row)
560                 throw std::logic_error("matrix::add(): incompatible matrices");
561         
562         exvector sum(this->m);
563         auto ci = other.m.begin();
564         for (auto & i : sum)
565                 i += *ci++;
566         
567         return matrix(row, col, std::move(sum));
568 }
569
570
571 /** Difference of matrices.
572  *
573  *  @exception logic_error (incompatible matrices) */
574 matrix matrix::sub(const matrix & other) const
575 {
576         if (col != other.col || row != other.row)
577                 throw std::logic_error("matrix::sub(): incompatible matrices");
578         
579         exvector dif(this->m);
580         auto ci = other.m.begin();
581         for (auto & i : dif)
582                 i -= *ci++;
583         
584         return matrix(row, col, std::move(dif));
585 }
586
587
588 /** Product of matrices.
589  *
590  *  @exception logic_error (incompatible matrices) */
591 matrix matrix::mul(const matrix & other) const
592 {
593         if (this->cols() != other.rows())
594                 throw std::logic_error("matrix::mul(): incompatible matrices");
595         
596         exvector prod(this->rows()*other.cols());
597         
598         for (unsigned r1=0; r1<this->rows(); ++r1) {
599                 for (unsigned c=0; c<this->cols(); ++c) {
600                         // Quick test: can we shortcut?
601                         if (m[r1*col+c].is_zero())
602                                 continue;
603                         for (unsigned r2=0; r2<other.cols(); ++r2)
604                                 prod[r1*other.col+r2] += (m[r1*col+c] * other.m[c*other.col+r2]);
605                 }
606         }
607         return matrix(row, other.col, std::move(prod));
608 }
609
610
611 /** Product of matrix and scalar. */
612 matrix matrix::mul(const numeric & other) const
613 {
614         exvector prod(row * col);
615
616         for (unsigned r=0; r<row; ++r)
617                 for (unsigned c=0; c<col; ++c)
618                         prod[r*col+c] = m[r*col+c] * other;
619
620         return matrix(row, col, std::move(prod));
621 }
622
623
624 /** Product of matrix and scalar expression. */
625 matrix matrix::mul_scalar(const ex & other) const
626 {
627         if (other.return_type() != return_types::commutative)
628                 throw std::runtime_error("matrix::mul_scalar(): non-commutative scalar");
629
630         exvector prod(row * col);
631
632         for (unsigned r=0; r<row; ++r)
633                 for (unsigned c=0; c<col; ++c)
634                         prod[r*col+c] = m[r*col+c] * other;
635
636         return matrix(row, col, std::move(prod));
637 }
638
639
640 /** Power of a matrix.  Currently handles integer exponents only. */
641 matrix matrix::pow(const ex & expn) const
642 {
643         if (col!=row)
644                 throw (std::logic_error("matrix::pow(): matrix not square"));
645         
646         if (is_exactly_a<numeric>(expn)) {
647                 // Integer cases are computed by successive multiplication, using the
648                 // obvious shortcut of storing temporaries, like A^4 == (A*A)*(A*A).
649                 if (expn.info(info_flags::integer)) {
650                         numeric b = ex_to<numeric>(expn);
651                         matrix A(row,col);
652                         if (expn.info(info_flags::negative)) {
653                                 b *= -1;
654                                 A = this->inverse();
655                         } else {
656                                 A = *this;
657                         }
658                         matrix C(row,col);
659                         for (unsigned r=0; r<row; ++r)
660                                 C(r,r) = _ex1;
661                         if (b.is_zero())
662                                 return C;
663                         // This loop computes the representation of b in base 2 from right
664                         // to left and multiplies the factors whenever needed.  Note
665                         // that this is not entirely optimal but close to optimal and
666                         // "better" algorithms are much harder to implement.  (See Knuth,
667                         // TAoCP2, section "Evaluation of Powers" for a good discussion.)
668                         while (b!=*_num1_p) {
669                                 if (b.is_odd()) {
670                                         C = C.mul(A);
671                                         --b;
672                                 }
673                                 b /= *_num2_p;  // still integer.
674                                 A = A.mul(A);
675                         }
676                         return A.mul(C);
677                 }
678         }
679         throw (std::runtime_error("matrix::pow(): don't know how to handle exponent"));
680 }
681
682
683 /** operator() to access elements for reading.
684  *
685  *  @param ro row of element
686  *  @param co column of element
687  *  @exception range_error (index out of range) */
688 const ex & matrix::operator() (unsigned ro, unsigned co) const
689 {
690         if (ro>=row || co>=col)
691                 throw (std::range_error("matrix::operator(): index out of range"));
692
693         return m[ro*col+co];
694 }
695
696
697 /** operator() to access elements for writing.
698  *
699  *  @param ro row of element
700  *  @param co column of element
701  *  @exception range_error (index out of range) */
702 ex & matrix::operator() (unsigned ro, unsigned co)
703 {
704         if (ro>=row || co>=col)
705                 throw (std::range_error("matrix::operator(): index out of range"));
706
707         ensure_if_modifiable();
708         return m[ro*col+co];
709 }
710
711
712 /** Transposed of an m x n matrix, producing a new n x m matrix object that
713  *  represents the transposed. */
714 matrix matrix::transpose() const
715 {
716         exvector trans(this->cols()*this->rows());
717         
718         for (unsigned r=0; r<this->cols(); ++r)
719                 for (unsigned c=0; c<this->rows(); ++c)
720                         trans[r*this->rows()+c] = m[c*this->cols()+r];
721         
722         return matrix(this->cols(), this->rows(), std::move(trans));
723 }
724
725 /** Determinant of square matrix.  This routine doesn't actually calculate the
726  *  determinant, it only implements some heuristics about which algorithm to
727  *  run.  If all the elements of the matrix are elements of an integral domain
728  *  the determinant is also in that integral domain and the result is expanded
729  *  only.  If one or more elements are from a quotient field the determinant is
730  *  usually also in that quotient field and the result is normalized before it
731  *  is returned.  This implies that the determinant of the symbolic 2x2 matrix
732  *  [[a/(a-b),1],[b/(a-b),1]] is returned as unity.  (In this respect, it
733  *  behaves like MapleV and unlike Mathematica.)
734  *
735  *  @param     algo allows to chose an algorithm
736  *  @return    the determinant as a new expression
737  *  @exception logic_error (matrix not square)
738  *  @see       determinant_algo */
739 ex matrix::determinant(unsigned algo) const
740 {
741         if (row!=col)
742                 throw (std::logic_error("matrix::determinant(): matrix not square"));
743         GINAC_ASSERT(row*col==m.capacity());
744         
745         // Gather some statistical information about this matrix:
746         bool numeric_flag = true;
747         bool normal_flag = false;
748         unsigned sparse_count = 0;  // counts non-zero elements
749         for (auto r : m) {
750                 if (!r.info(info_flags::numeric))
751                         numeric_flag = false;
752                 exmap srl;  // symbol replacement list
753                 ex rtest = r.to_rational(srl);
754                 if (!rtest.is_zero())
755                         ++sparse_count;
756                 if (!rtest.info(info_flags::crational_polynomial) &&
757                      rtest.info(info_flags::rational_function))
758                         normal_flag = true;
759         }
760         
761         // Here is the heuristics in case this routine has to decide:
762         if (algo == determinant_algo::automatic) {
763                 // Minor expansion is generally a good guess:
764                 algo = determinant_algo::laplace;
765                 // Does anybody know when a matrix is really sparse?
766                 // Maybe <~row/2.236 nonzero elements average in a row?
767                 if (row>3 && 5*sparse_count<=row*col)
768                         algo = determinant_algo::bareiss;
769                 // Purely numeric matrix can be handled by Gauss elimination.
770                 // This overrides any prior decisions.
771                 if (numeric_flag)
772                         algo = determinant_algo::gauss;
773         }
774         
775         // Trap the trivial case here, since some algorithms don't like it
776         if (this->row==1) {
777                 // for consistency with non-trivial determinants...
778                 if (normal_flag)
779                         return m[0].normal();
780                 else
781                         return m[0].expand();
782         }
783
784         // Compute the determinant
785         switch(algo) {
786                 case determinant_algo::gauss: {
787                         ex det = 1;
788                         matrix tmp(*this);
789                         int sign = tmp.gauss_elimination(true);
790                         for (unsigned d=0; d<row; ++d)
791                                 det *= tmp.m[d*col+d];
792                         if (normal_flag)
793                                 return (sign*det).normal();
794                         else
795                                 return (sign*det).normal().expand();
796                 }
797                 case determinant_algo::bareiss: {
798                         matrix tmp(*this);
799                         int sign;
800                         sign = tmp.fraction_free_elimination(true);
801                         if (normal_flag)
802                                 return (sign*tmp.m[row*col-1]).normal();
803                         else
804                                 return (sign*tmp.m[row*col-1]).expand();
805                 }
806                 case determinant_algo::divfree: {
807                         matrix tmp(*this);
808                         int sign;
809                         sign = tmp.division_free_elimination(true);
810                         if (sign==0)
811                                 return _ex0;
812                         ex det = tmp.m[row*col-1];
813                         // factor out accumulated bogus slag
814                         for (unsigned d=0; d<row-2; ++d)
815                                 for (unsigned j=0; j<row-d-2; ++j)
816                                         det = (det/tmp.m[d*col+d]).normal();
817                         return (sign*det);
818                 }
819                 case determinant_algo::laplace:
820                 default: {
821                         // This is the minor expansion scheme.  We always develop such
822                         // that the smallest minors (i.e, the trivial 1x1 ones) are on the
823                         // rightmost column.  For this to be efficient, empirical tests
824                         // have shown that the emptiest columns (i.e. the ones with most
825                         // zeros) should be the ones on the right hand side -- although
826                         // this might seem counter-intuitive (and in contradiction to some
827                         // literature like the FORM manual).  Please go ahead and test it
828                         // if you don't believe me!  Therefore we presort the columns of
829                         // the matrix:
830                         typedef std::pair<unsigned,unsigned> uintpair;
831                         std::vector<uintpair> c_zeros;  // number of zeros in column
832                         for (unsigned c=0; c<col; ++c) {
833                                 unsigned acc = 0;
834                                 for (unsigned r=0; r<row; ++r)
835                                         if (m[r*col+c].is_zero())
836                                                 ++acc;
837                                 c_zeros.push_back(uintpair(acc,c));
838                         }
839                         std::sort(c_zeros.begin(),c_zeros.end());
840                         std::vector<unsigned> pre_sort;
841                         for (auto & i : c_zeros)
842                                 pre_sort.push_back(i.second);
843                         std::vector<unsigned> pre_sort_test(pre_sort); // permutation_sign() modifies the vector so we make a copy here
844                         int sign = permutation_sign(pre_sort_test.begin(), pre_sort_test.end());
845                         exvector result(row*col);  // represents sorted matrix
846                         unsigned c = 0;
847                         for (auto & it : pre_sort) {
848                                 for (unsigned r=0; r<row; ++r)
849                                         result[r*col+c] = m[r*col+it];
850                                 ++c;
851                         }
852                         
853                         if (normal_flag)
854                                 return (sign*matrix(row, col, std::move(result)).determinant_minor()).normal();
855                         else
856                                 return sign*matrix(row, col, std::move(result)).determinant_minor();
857                 }
858         }
859 }
860
861
862 /** Trace of a matrix.  The result is normalized if it is in some quotient
863  *  field and expanded only otherwise.  This implies that the trace of the
864  *  symbolic 2x2 matrix [[a/(a-b),x],[y,b/(b-a)]] is recognized to be unity.
865  *
866  *  @return    the sum of diagonal elements
867  *  @exception logic_error (matrix not square) */
868 ex matrix::trace() const
869 {
870         if (row != col)
871                 throw (std::logic_error("matrix::trace(): matrix not square"));
872         
873         ex tr;
874         for (unsigned r=0; r<col; ++r)
875                 tr += m[r*col+r];
876         
877         if (tr.info(info_flags::rational_function) &&
878            !tr.info(info_flags::crational_polynomial))
879                 return tr.normal();
880         else
881                 return tr.expand();
882 }
883
884
885 /** Characteristic Polynomial.  Following mathematica notation the
886  *  characteristic polynomial of a matrix M is defined as the determinant of
887  *  (M - lambda * 1) where 1 stands for the unit matrix of the same dimension
888  *  as M.  Note that some CASs define it with a sign inside the determinant
889  *  which gives rise to an overall sign if the dimension is odd.  This method
890  *  returns the characteristic polynomial collected in powers of lambda as a
891  *  new expression.
892  *
893  *  @return    characteristic polynomial as new expression
894  *  @exception logic_error (matrix not square)
895  *  @see       matrix::determinant() */
896 ex matrix::charpoly(const ex & lambda) const
897 {
898         if (row != col)
899                 throw (std::logic_error("matrix::charpoly(): matrix not square"));
900         
901         bool numeric_flag = true;
902         for (auto & r : m) {
903                 if (!r.info(info_flags::numeric)) {
904                         numeric_flag = false;
905                         break;
906                 }
907         }
908         
909         // The pure numeric case is traditionally rather common.  Hence, it is
910         // trapped and we use Leverrier's algorithm which goes as row^3 for
911         // every coefficient.  The expensive part is the matrix multiplication.
912         if (numeric_flag) {
913
914                 matrix B(*this);
915                 ex c = B.trace();
916                 ex poly = power(lambda, row) - c*power(lambda, row-1);
917                 for (unsigned i=1; i<row; ++i) {
918                         for (unsigned j=0; j<row; ++j)
919                                 B.m[j*col+j] -= c;
920                         B = this->mul(B);
921                         c = B.trace() / ex(i+1);
922                         poly -= c*power(lambda, row-i-1);
923                 }
924                 if (row%2)
925                         return -poly;
926                 else
927                         return poly;
928
929         } else {
930         
931                 matrix M(*this);
932                 for (unsigned r=0; r<col; ++r)
933                         M.m[r*col+r] -= lambda;
934         
935                 return M.determinant().collect(lambda);
936         }
937 }
938
939
940 /** Inverse of this matrix, with automatic algorithm selection. */
941 matrix matrix::inverse() const
942 {
943         return inverse(solve_algo::automatic);
944 }
945
946 /** Inverse of this matrix.
947  *
948  *  @param algo selects the algorithm (one of solve_algo)
949  *  @return    the inverted matrix
950  *  @exception logic_error (matrix not square)
951  *  @exception runtime_error (singular matrix) */
952 matrix matrix::inverse(unsigned algo) const
953 {
954         if (row != col)
955                 throw (std::logic_error("matrix::inverse(): matrix not square"));
956         
957         // This routine actually doesn't do anything fancy at all.  We compute the
958         // inverse of the matrix A by solving the system A * A^{-1} == Id.
959         
960         // First populate the identity matrix supposed to become the right hand side.
961         matrix identity(row,col);
962         for (unsigned i=0; i<row; ++i)
963                 identity(i,i) = _ex1;
964         
965         // Populate a dummy matrix of variables, just because of compatibility with
966         // matrix::solve() which wants this (for compatibility with under-determined
967         // systems of equations).
968         matrix vars(row,col);
969         for (unsigned r=0; r<row; ++r)
970                 for (unsigned c=0; c<col; ++c)
971                         vars(r,c) = symbol();
972         
973         matrix sol(row,col);
974         try {
975                 sol = this->solve(vars, identity, algo);
976         } catch (const std::runtime_error & e) {
977             if (e.what()==std::string("matrix::solve(): inconsistent linear system"))
978                         throw (std::runtime_error("matrix::inverse(): singular matrix"));
979                 else
980                         throw;
981         }
982         return sol;
983 }
984
985
986 /** Solve a linear system consisting of a m x n matrix and a m x p right hand
987  *  side by applying an elimination scheme to the augmented matrix.
988  *
989  *  @param vars n x p matrix, all elements must be symbols
990  *  @param rhs m x p matrix
991  *  @param algo selects the solving algorithm
992  *  @return n x p solution matrix
993  *  @exception logic_error (incompatible matrices)
994  *  @exception invalid_argument (1st argument must be matrix of symbols)
995  *  @exception runtime_error (inconsistent linear system)
996  *  @see       solve_algo */
997 matrix matrix::solve(const matrix & vars,
998                      const matrix & rhs,
999                      unsigned algo) const
1000 {
1001         const unsigned m = this->rows();
1002         const unsigned n = this->cols();
1003         const unsigned p = rhs.cols();
1004         
1005         // syntax checks
1006         if ((rhs.rows() != m) || (vars.rows() != n) || (vars.cols() != p))
1007                 throw (std::logic_error("matrix::solve(): incompatible matrices"));
1008         for (unsigned ro=0; ro<n; ++ro)
1009                 for (unsigned co=0; co<p; ++co)
1010                         if (!vars(ro,co).info(info_flags::symbol))
1011                                 throw (std::invalid_argument("matrix::solve(): 1st argument must be matrix of symbols"));
1012         
1013         // build the augmented matrix of *this with rhs attached to the right
1014         matrix aug(m,n+p);
1015         for (unsigned r=0; r<m; ++r) {
1016                 for (unsigned c=0; c<n; ++c)
1017                         aug.m[r*(n+p)+c] = this->m[r*n+c];
1018                 for (unsigned c=0; c<p; ++c)
1019                         aug.m[r*(n+p)+c+n] = rhs.m[r*p+c];
1020         }
1021
1022         // Eliminate the augmented matrix:
1023         auto colid = aug.echelon_form(algo, n);
1024         
1025         // assemble the solution matrix:
1026         matrix sol(n,p);
1027         for (unsigned co=0; co<p; ++co) {
1028                 unsigned last_assigned_sol = n+1;
1029                 for (int r=m-1; r>=0; --r) {
1030                         unsigned fnz = 1;    // first non-zero in row
1031                         while ((fnz<=n) && (aug.m[r*(n+p)+(fnz-1)].normal().is_zero()))
1032                                 ++fnz;
1033                         if (fnz>n) {
1034                                 // row consists only of zeros, corresponding rhs must be 0, too
1035                                 if (!aug.m[r*(n+p)+n+co].normal().is_zero()) {
1036                                         throw (std::runtime_error("matrix::solve(): inconsistent linear system"));
1037                                 }
1038                         } else {
1039                                 // assign solutions for vars between fnz+1 and
1040                                 // last_assigned_sol-1: free parameters
1041                                 for (unsigned c=fnz; c<last_assigned_sol-1; ++c)
1042                                         sol(colid[c],co) = vars.m[colid[c]*p+co];
1043                                 ex e = aug.m[r*(n+p)+n+co];
1044                                 for (unsigned c=fnz; c<n; ++c)
1045                                         e -= aug.m[r*(n+p)+c]*sol.m[colid[c]*p+co];
1046                                 sol(colid[fnz-1],co) = (e/(aug.m[r*(n+p)+fnz-1])).normal();
1047                                 last_assigned_sol = fnz;
1048                         }
1049                 }
1050                 // assign solutions for vars between 1 and
1051                 // last_assigned_sol-1: free parameters
1052                 for (unsigned ro=0; ro<last_assigned_sol-1; ++ro)
1053                         sol(colid[ro],co) = vars(colid[ro],co);
1054         }
1055         
1056         return sol;
1057 }
1058
1059 /** Compute the rank of this matrix. */
1060 unsigned matrix::rank() const
1061 {
1062         return rank(solve_algo::automatic);
1063 }
1064
1065 /** Compute the rank of this matrix using the given algorithm,
1066  *  which should be a member of enum solve_algo. */
1067 unsigned matrix::rank(unsigned solve_algo) const
1068 {
1069         // Method:
1070         // Transform this matrix into upper echelon form and then count the
1071         // number of non-zero rows.
1072         GINAC_ASSERT(row*col==m.capacity());
1073
1074         matrix to_eliminate = *this;
1075         to_eliminate.echelon_form(solve_algo, col);
1076
1077         unsigned r = row*col;  // index of last non-zero element
1078         while (r--) {
1079                 if (!to_eliminate.m[r].is_zero())
1080                         return 1+r/col;
1081         }
1082         return 0;
1083 }
1084
1085
1086 // protected
1087
1088 /** Recursive determinant for small matrices having at least one symbolic
1089  *  entry.  The basic algorithm, known as Laplace-expansion, is enhanced by
1090  *  some bookkeeping to avoid calculation of the same submatrices ("minors")
1091  *  more than once.  According to W.M.Gentleman and S.C.Johnson this algorithm
1092  *  is better than elimination schemes for matrices of sparse multivariate
1093  *  polynomials and also for matrices of dense univariate polynomials if the
1094  *  matrix' dimension is larger than 7.
1095  *
1096  *  @return the determinant as a new expression (in expanded form)
1097  *  @see matrix::determinant() */
1098 ex matrix::determinant_minor() const
1099 {
1100         const unsigned n = this->cols();
1101
1102         // This algorithm can best be understood by looking at a naive
1103         // implementation of Laplace-expansion, like this one:
1104         // ex det;
1105         // matrix minorM(this->rows()-1,this->cols()-1);
1106         // for (unsigned r1=0; r1<this->rows(); ++r1) {
1107         //     // shortcut if element(r1,0) vanishes
1108         //     if (m[r1*col].is_zero())
1109         //         continue;
1110         //     // assemble the minor matrix
1111         //     for (unsigned r=0; r<minorM.rows(); ++r) {
1112         //         for (unsigned c=0; c<minorM.cols(); ++c) {
1113         //             if (r<r1)
1114         //                 minorM(r,c) = m[r*col+c+1];
1115         //             else
1116         //                 minorM(r,c) = m[(r+1)*col+c+1];
1117         //         }
1118         //     }
1119         //     // recurse down and care for sign:
1120         //     if (r1%2)
1121         //         det -= m[r1*col] * minorM.determinant_minor();
1122         //     else
1123         //         det += m[r1*col] * minorM.determinant_minor();
1124         // }
1125         // return det.expand();
1126         // What happens is that while proceeding down many of the minors are
1127         // computed more than once.  In particular, there are binomial(n,k)
1128         // kxk minors and each one is computed factorial(n-k) times.  Therefore
1129         // it is reasonable to store the results of the minors.  We proceed from
1130         // right to left.  At each column c we only need to retrieve the minors
1131         // calculated in step c-1.  We therefore only have to store at most 
1132         // 2*binomial(n,n/2) minors.
1133         
1134         // we store the minors in maps, keyed by the rows they arise from
1135         typedef std::vector<unsigned> keyseq;
1136         typedef std::map<keyseq, ex> Rmap;
1137
1138         Rmap M, N;  // minors used in current and next column, respectively
1139         // populate M with dummy unit, to be used as factor in rightmost column
1140         M[keyseq{}] = _ex1;
1141
1142         // keys to identify minor of M and N (Mkey is a subsequence of Nkey)
1143         keyseq Mkey, Nkey;
1144         Mkey.reserve(n-1);
1145         Nkey.reserve(n);
1146
1147         ex det;
1148         // proceed from right to left through matrix
1149         for (int c=n-1; c>=0; --c) {
1150                 Nkey.clear();
1151                 Mkey.clear();
1152                 for (unsigned i=0; i<n-c; ++i)
1153                         Nkey.push_back(i);
1154                 unsigned fc = 0;  // controls logic for minor key generator
1155                 do {
1156                         det = _ex0;
1157                         for (unsigned r=0; r<n-c; ++r) {
1158                                 // maybe there is nothing to do?
1159                                 if (m[Nkey[r]*n+c].is_zero())
1160                                         continue;
1161                                 // Mkey is same as Nkey, but with element r removed
1162                                 Mkey.clear();
1163                                 Mkey.insert(Mkey.begin(), Nkey.begin(), Nkey.begin() + r);
1164                                 Mkey.insert(Mkey.end(), Nkey.begin() + r + 1, Nkey.end());
1165                                 // add product of matrix element and minor M to determinant
1166                                 if (r%2)
1167                                         det -= m[Nkey[r]*n+c]*M[Mkey];
1168                                 else
1169                                         det += m[Nkey[r]*n+c]*M[Mkey];
1170                         }
1171                         // prevent nested expressions to save time
1172                         det = det.expand();
1173                         // if the next computed minor is zero, don't store it in N:
1174                         // (if key is not found, operator[] will just return a zero ex)
1175                         if (!det.is_zero())
1176                                 N[Nkey] = det;
1177                         // compute next minor key
1178                         for (fc=n-c; fc>0; --fc) {
1179                                 ++Nkey[fc-1];
1180                                 if (Nkey[fc-1]<fc+c)
1181                                         break;
1182                         }
1183                         if (fc<n-c && fc>0)
1184                                 for (unsigned j=fc; j<n-c; ++j)
1185                                         Nkey[j] = Nkey[j-1]+1;
1186                 } while(fc);
1187                 // if N contains no minors, then they all vanished
1188                 if (N.empty())
1189                         return _ex0;
1190
1191                 // proceed to next column: switch roles of M and N, clear N
1192                 M = std::move(N);
1193         }
1194         
1195         return det;
1196 }
1197
1198 std::vector<unsigned>
1199 matrix::echelon_form(unsigned algo, int n)
1200 {
1201         // Here is the heuristics in case this routine has to decide:
1202         if (algo == solve_algo::automatic) {
1203                 // Gather some statistical information about the augmented matrix:
1204                 bool numeric_flag = true;
1205                 for (const auto & r : m) {
1206                         if (!r.info(info_flags::numeric)) {
1207                                 numeric_flag = false;
1208                                 break;
1209                         }
1210                 }
1211                 unsigned density = 0;
1212                 for (const auto & r : m) {
1213                         density += !r.is_zero();
1214                 }
1215                 unsigned ncells = col*row;
1216                 if (numeric_flag) {
1217                         // For numerical matrices Gauss is good, but Markowitz becomes
1218                         // better for large sparse matrices.
1219                         if ((ncells > 200) && (density < ncells/2)) {
1220                                 algo = solve_algo::markowitz;
1221                         } else {
1222                                 algo = solve_algo::gauss;
1223                         }
1224                 } else {
1225                         // For symbolic matrices Markowitz is good, but Bareiss/Divfree
1226                         // is better for small and dense matrices.
1227                         if ((ncells < 120) && (density*5 > ncells*3)) {
1228                                 if (ncells <= 12) {
1229                                         algo = solve_algo::divfree;
1230                                 } else {
1231                                         algo = solve_algo::bareiss;
1232                                 }
1233                         } else {
1234                                 algo = solve_algo::markowitz;
1235                         }
1236                 }
1237         }
1238         // Eliminate the augmented matrix:
1239         std::vector<unsigned> colid(col);
1240         for (unsigned c = 0; c < col; c++) {
1241                 colid[c] = c;
1242         }
1243         switch(algo) {
1244                 case solve_algo::gauss:
1245                         gauss_elimination();
1246                         break;
1247                 case solve_algo::divfree:
1248                         division_free_elimination();
1249                         break;
1250                 case solve_algo::bareiss:
1251                         fraction_free_elimination();
1252                         break;
1253                 case solve_algo::markowitz:
1254                         colid = markowitz_elimination(n);
1255                         break;
1256                 default:
1257                         throw std::invalid_argument("matrix::echelon_form(): 'algo' is not one of the solve_algo enum");
1258         }
1259         return colid;
1260 }
1261
1262 /** Perform the steps of an ordinary Gaussian elimination to bring the m x n
1263  *  matrix into an upper echelon form.  The algorithm is ok for matrices
1264  *  with numeric coefficients but quite unsuited for symbolic matrices.
1265  *
1266  *  @param det may be set to true to save a lot of space if one is only
1267  *  interested in the diagonal elements (i.e. for calculating determinants).
1268  *  The others are set to zero in this case.
1269  *  @return sign is 1 if an even number of rows was swapped, -1 if an odd
1270  *  number of rows was swapped and 0 if the matrix is singular. */
1271 int matrix::gauss_elimination(const bool det)
1272 {
1273         ensure_if_modifiable();
1274         const unsigned m = this->rows();
1275         const unsigned n = this->cols();
1276         GINAC_ASSERT(!det || n==m);
1277         int sign = 1;
1278         
1279         unsigned r0 = 0;
1280         for (unsigned c0=0; c0<n && r0<m-1; ++c0) {
1281                 int indx = pivot(r0, c0, true);
1282                 if (indx == -1) {
1283                         sign = 0;
1284                         if (det)
1285                                 return 0;  // leaves *this in a messy state
1286                 }
1287                 if (indx>=0) {
1288                         if (indx > 0)
1289                                 sign = -sign;
1290                         for (unsigned r2=r0+1; r2<m; ++r2) {
1291                                 if (!this->m[r2*n+c0].is_zero()) {
1292                                         // yes, there is something to do in this row
1293                                         ex piv = this->m[r2*n+c0] / this->m[r0*n+c0];
1294                                         for (unsigned c=c0+1; c<n; ++c) {
1295                                                 this->m[r2*n+c] -= piv * this->m[r0*n+c];
1296                                                 if (!this->m[r2*n+c].info(info_flags::numeric))
1297                                                         this->m[r2*n+c] = this->m[r2*n+c].normal();
1298                                         }
1299                                 }
1300                                 // fill up left hand side with zeros
1301                                 for (unsigned c=r0; c<=c0; ++c)
1302                                         this->m[r2*n+c] = _ex0;
1303                         }
1304                         if (det) {
1305                                 // save space by deleting no longer needed elements
1306                                 for (unsigned c=r0+1; c<n; ++c)
1307                                         this->m[r0*n+c] = _ex0;
1308                         }
1309                         ++r0;
1310                 }
1311         }
1312         // clear remaining rows
1313         for (unsigned r=r0+1; r<m; ++r) {
1314                 for (unsigned c=0; c<n; ++c)
1315                         this->m[r*n+c] = _ex0;
1316         }
1317
1318         return sign;
1319 }
1320
1321 /* Perform Markowitz-ordered Gaussian elimination (with full
1322  * pivoting) on a matrix, constraining the choice of pivots to
1323  * the first n columns (this simplifies handling of augmented
1324  * matrices). Return the column id vector v, such that v[column]
1325  * is the original number of the column before shuffling (v[i]==i
1326  * for i >= n). */
1327 std::vector<unsigned>
1328 matrix::markowitz_elimination(unsigned n)
1329 {
1330         GINAC_ASSERT(n <= col);
1331         std::vector<int> rowcnt(row, 0);
1332         std::vector<int> colcnt(col, 0);
1333         // Normalize everything before start. We'll keep all the
1334         // cells normalized throughout the algorithm to properly
1335         // handle unnormal zeros.
1336         for (unsigned r = 0; r < row; r++) {
1337                 for (unsigned c = 0; c < col; c++) {
1338                         if (!m[r*col + c].is_zero()) {
1339                                 m[r*col + c] = m[r*col + c].normal();
1340                                 rowcnt[r]++;
1341                                 colcnt[c]++;
1342                         }
1343                 }
1344         }
1345         std::vector<unsigned> colid(col);
1346         for (unsigned c = 0; c < col; c++) {
1347                 colid[c] = c;
1348         }
1349         exvector ab(row);
1350         for (unsigned k = 0; (k < col) && (k < row - 1); k++) {
1351                 // Find the pivot that minimizes (rowcnt[r]-1)*(colcnt[c]-1).
1352                 unsigned pivot_r = row + 1;
1353                 unsigned pivot_c = col + 1;
1354                 int pivot_m = row*col;
1355                 for (unsigned r = k; r < row; r++) {
1356                         for (unsigned c = k; c < n; c++) {
1357                                 const ex &mrc = m[r*col + c];
1358                                 if (mrc.is_zero())
1359                                         continue;
1360                                 GINAC_ASSERT(rowcnt[r] > 0);
1361                                 GINAC_ASSERT(colcnt[c] > 0);
1362                                 int measure = (rowcnt[r] - 1)*(colcnt[c] - 1);
1363                                 if (measure < pivot_m) {
1364                                         pivot_m = measure;
1365                                         pivot_r = r;
1366                                         pivot_c = c;
1367                                 }
1368                         }
1369                 }
1370                 if (pivot_m == row*col) {
1371                         // The rest of the matrix is zero.
1372                         break;
1373                 }
1374                 GINAC_ASSERT(k <= pivot_r && pivot_r < row);
1375                 GINAC_ASSERT(k <= pivot_c && pivot_c < col);
1376                 // Swap the pivot into (k, k).
1377                 if (pivot_c != k) {
1378                         for (unsigned r = 0; r < row; r++) {
1379                                 m[r*col + pivot_c].swap(m[r*col + k]);
1380                         }
1381                         std::swap(colid[pivot_c], colid[k]);
1382                         std::swap(colcnt[pivot_c], colcnt[k]);
1383                 }
1384                 if (pivot_r != k) {
1385                         for (unsigned c = k; c < col; c++) {
1386                                 m[pivot_r*col + c].swap(m[k*col + c]);
1387                         }
1388                         std::swap(rowcnt[pivot_r], rowcnt[k]);
1389                 }
1390                 // No normalization before is_zero() here, because
1391                 // we maintain the matrix normalized throughout the
1392                 // algorithm.
1393                 ex a = m[k*col + k];
1394                 GINAC_ASSERT(!a.is_zero());
1395                 // Subtract the pivot row KJI-style (so: loop by pivot, then
1396                 // column, then row) to maximally exploit pivot row zeros (at
1397                 // the expense of the pivot column zeros). The speedup compared
1398                 // to the usual KIJ order is not really significant though...
1399                 for (unsigned r = k + 1; r < row; r++) {
1400                         const ex &b = m[r*col + k];
1401                         if (!b.is_zero()) {
1402                                 ab[r] = b/a;
1403                                 rowcnt[r]--;
1404                         }
1405                 }
1406                 colcnt[k] = rowcnt[k] = 0;
1407                 for (unsigned c = k + 1; c < col; c++) {
1408                         const ex &mr0c = m[k*col + c];
1409                         if (mr0c.is_zero())
1410                                 continue;
1411                         colcnt[c]--;
1412                         for (unsigned r = k + 1; r < row; r++) {
1413                                 if (ab[r].is_zero())
1414                                         continue;
1415                                 bool waszero = m[r*col + c].is_zero();
1416                                 m[r*col + c] = (m[r*col + c] - ab[r]*mr0c).normal();
1417                                 bool iszero = m[r*col + c].is_zero();
1418                                 if (waszero && !iszero) {
1419                                         rowcnt[r]++;
1420                                         colcnt[c]++;
1421                                 }
1422                                 if (!waszero && iszero) {
1423                                         rowcnt[r]--;
1424                                         colcnt[c]--;
1425                                 }
1426                         }
1427                 }
1428                 for (unsigned r = k + 1; r < row; r++) {
1429                         ab[r] = m[r*col + k] = _ex0;
1430                 }
1431         }
1432         return colid;
1433 }
1434
1435 /** Perform the steps of division free elimination to bring the m x n matrix
1436  *  into an upper echelon form.
1437  *
1438  *  @param det may be set to true to save a lot of space if one is only
1439  *  interested in the diagonal elements (i.e. for calculating determinants).
1440  *  The others are set to zero in this case.
1441  *  @return sign is 1 if an even number of rows was swapped, -1 if an odd
1442  *  number of rows was swapped and 0 if the matrix is singular. */
1443 int matrix::division_free_elimination(const bool det)
1444 {
1445         ensure_if_modifiable();
1446         const unsigned m = this->rows();
1447         const unsigned n = this->cols();
1448         GINAC_ASSERT(!det || n==m);
1449         int sign = 1;
1450         
1451         unsigned r0 = 0;
1452         for (unsigned c0=0; c0<n && r0<m-1; ++c0) {
1453                 int indx = pivot(r0, c0, true);
1454                 if (indx==-1) {
1455                         sign = 0;
1456                         if (det)
1457                                 return 0;  // leaves *this in a messy state
1458                 }
1459                 if (indx>=0) {
1460                         if (indx>0)
1461                                 sign = -sign;
1462                         for (unsigned r2=r0+1; r2<m; ++r2) {
1463                                 for (unsigned c=c0+1; c<n; ++c)
1464                                         this->m[r2*n+c] = (this->m[r0*n+c0]*this->m[r2*n+c] - this->m[r2*n+c0]*this->m[r0*n+c]).normal();
1465                                 // fill up left hand side with zeros
1466                                 for (unsigned c=r0; c<=c0; ++c)
1467                                         this->m[r2*n+c] = _ex0;
1468                         }
1469                         if (det) {
1470                                 // save space by deleting no longer needed elements
1471                                 for (unsigned c=r0+1; c<n; ++c)
1472                                         this->m[r0*n+c] = _ex0;
1473                         }
1474                         ++r0;
1475                 }
1476         }
1477         // clear remaining rows
1478         for (unsigned r=r0+1; r<m; ++r) {
1479                 for (unsigned c=0; c<n; ++c)
1480                         this->m[r*n+c] = _ex0;
1481         }
1482
1483         return sign;
1484 }
1485
1486
1487 /** Perform the steps of Bareiss' one-step fraction free elimination to bring
1488  *  the matrix into an upper echelon form.  Fraction free elimination means
1489  *  that divide is used straightforwardly, without computing GCDs first.  This
1490  *  is possible, since we know the divisor at each step.
1491  *  
1492  *  @param det may be set to true to save a lot of space if one is only
1493  *  interested in the last element (i.e. for calculating determinants). The
1494  *  others are set to zero in this case.
1495  *  @return sign is 1 if an even number of rows was swapped, -1 if an odd
1496  *  number of rows was swapped and 0 if the matrix is singular. */
1497 int matrix::fraction_free_elimination(const bool det)
1498 {
1499         // Method:
1500         // (single-step fraction free elimination scheme, already known to Jordan)
1501         //
1502         // Usual division-free elimination sets m[0](r,c) = m(r,c) and then sets
1503         //     m[k+1](r,c) = m[k](k,k) * m[k](r,c) - m[k](r,k) * m[k](k,c).
1504         //
1505         // Bareiss (fraction-free) elimination in addition divides that element
1506         // by m[k-1](k-1,k-1) for k>1, where it can be shown by means of the
1507         // Sylvester identity that this really divides m[k+1](r,c).
1508         //
1509         // We also allow rational functions where the original prove still holds.
1510         // However, we must care for numerator and denominator separately and
1511         // "manually" work in the integral domains because of subtle cancellations
1512         // (see below).  This blows up the bookkeeping a bit and the formula has
1513         // to be modified to expand like this (N{x} stands for numerator of x,
1514         // D{x} for denominator of x):
1515         //     N{m[k+1](r,c)} = N{m[k](k,k)}*N{m[k](r,c)}*D{m[k](r,k)}*D{m[k](k,c)}
1516         //                     -N{m[k](r,k)}*N{m[k](k,c)}*D{m[k](k,k)}*D{m[k](r,c)}
1517         //     D{m[k+1](r,c)} = D{m[k](k,k)}*D{m[k](r,c)}*D{m[k](r,k)}*D{m[k](k,c)}
1518         // where for k>1 we now divide N{m[k+1](r,c)} by
1519         //     N{m[k-1](k-1,k-1)}
1520         // and D{m[k+1](r,c)} by
1521         //     D{m[k-1](k-1,k-1)}.
1522         
1523         ensure_if_modifiable();
1524         const unsigned m = this->rows();
1525         const unsigned n = this->cols();
1526         GINAC_ASSERT(!det || n==m);
1527         int sign = 1;
1528         if (m==1)
1529                 return 1;
1530         ex divisor_n = 1;
1531         ex divisor_d = 1;
1532         ex dividend_n;
1533         ex dividend_d;
1534         
1535         // We populate temporary matrices to subsequently operate on.  There is
1536         // one holding numerators and another holding denominators of entries.
1537         // This is a must since the evaluator (or even earlier mul's constructor)
1538         // might cancel some trivial element which causes divide() to fail.  The
1539         // elements are normalized first (yes, even though this algorithm doesn't
1540         // need GCDs) since the elements of *this might be unnormalized, which
1541         // makes things more complicated than they need to be.
1542         matrix tmp_n(*this);
1543         matrix tmp_d(m,n);  // for denominators, if needed
1544         exmap srl;  // symbol replacement list
1545         auto tmp_n_it = tmp_n.m.begin(), tmp_d_it = tmp_d.m.begin();
1546         for (auto & it : this->m) {
1547                 ex nd = it.normal().to_rational(srl).numer_denom();
1548                 *tmp_n_it++ = nd.op(0);
1549                 *tmp_d_it++ = nd.op(1);
1550         }
1551         
1552         unsigned r0 = 0;
1553         for (unsigned c0=0; c0<n && r0<m-1; ++c0) {
1554                 // When trying to find a pivot, we should try a bit harder than expand().
1555                 // Searching the first non-zero element in-place here instead of calling
1556                 // pivot() allows us to do no more substitutions and back-substitutions
1557                 // than are actually necessary.
1558                 unsigned indx = r0;
1559                 while ((indx<m) &&
1560                        (tmp_n[indx*n+c0].subs(srl, subs_options::no_pattern).expand().is_zero()))
1561                         ++indx;
1562                 if (indx==m) {
1563                         // all elements in column c0 below row r0 vanish
1564                         sign = 0;
1565                         if (det)
1566                                 return 0;
1567                 } else {
1568                         if (indx>r0) {
1569                                 // Matrix needs pivoting, swap rows r0 and indx of tmp_n and tmp_d.
1570                                 sign = -sign;
1571                                 for (unsigned c=c0; c<n; ++c) {
1572                                         tmp_n.m[n*indx+c].swap(tmp_n.m[n*r0+c]);
1573                                         tmp_d.m[n*indx+c].swap(tmp_d.m[n*r0+c]);
1574                                 }
1575                         }
1576                         for (unsigned r2=r0+1; r2<m; ++r2) {
1577                                 for (unsigned c=c0+1; c<n; ++c) {
1578                                         dividend_n = (tmp_n.m[r0*n+c0]*tmp_n.m[r2*n+c]*
1579                                                       tmp_d.m[r2*n+c0]*tmp_d.m[r0*n+c]
1580                                                      -tmp_n.m[r2*n+c0]*tmp_n.m[r0*n+c]*
1581                                                       tmp_d.m[r0*n+c0]*tmp_d.m[r2*n+c]).expand();
1582                                         dividend_d = (tmp_d.m[r2*n+c0]*tmp_d.m[r0*n+c]*
1583                                                       tmp_d.m[r0*n+c0]*tmp_d.m[r2*n+c]).expand();
1584                                         bool check = divide(dividend_n, divisor_n,
1585                                                             tmp_n.m[r2*n+c], true);
1586                                         check &= divide(dividend_d, divisor_d,
1587                                                         tmp_d.m[r2*n+c], true);
1588                                         GINAC_ASSERT(check);
1589                                 }
1590                                 // fill up left hand side with zeros
1591                                 for (unsigned c=r0; c<=c0; ++c)
1592                                         tmp_n.m[r2*n+c] = _ex0;
1593                         }
1594                         if (c0<n && r0<m-1) {
1595                                 // compute next iteration's divisor
1596                                 divisor_n = tmp_n.m[r0*n+c0].expand();
1597                                 divisor_d = tmp_d.m[r0*n+c0].expand();
1598                                 if (det) {
1599                                         // save space by deleting no longer needed elements
1600                                         for (unsigned c=0; c<n; ++c) {
1601                                                 tmp_n.m[r0*n+c] = _ex0;
1602                                                 tmp_d.m[r0*n+c] = _ex1;
1603                                         }
1604                                 }
1605                         }
1606                         ++r0;
1607                 }
1608         }
1609         // clear remaining rows
1610         for (unsigned r=r0+1; r<m; ++r) {
1611                 for (unsigned c=0; c<n; ++c)
1612                         tmp_n.m[r*n+c] = _ex0;
1613         }
1614
1615         // repopulate *this matrix:
1616         tmp_n_it = tmp_n.m.begin();
1617         tmp_d_it = tmp_d.m.begin();
1618         for (auto & it : this->m)
1619                 it = ((*tmp_n_it++)/(*tmp_d_it++)).subs(srl, subs_options::no_pattern);
1620         
1621         return sign;
1622 }
1623
1624
1625 /** Partial pivoting method for matrix elimination schemes.
1626  *  Usual pivoting (symbolic==false) returns the index to the element with the
1627  *  largest absolute value in column ro and swaps the current row with the one
1628  *  where the element was found.  With (symbolic==true) it does the same thing
1629  *  with the first non-zero element.
1630  *
1631  *  @param ro is the row from where to begin
1632  *  @param co is the column to be inspected
1633  *  @param symbolic signal if we want the first non-zero element to be pivoted
1634  *  (true) or the one with the largest absolute value (false).
1635  *  @return 0 if no interchange occurred, -1 if all are zero (usually signaling
1636  *  a degeneracy) and positive integer k means that rows ro and k were swapped.
1637  */
1638 int matrix::pivot(unsigned ro, unsigned co, bool symbolic)
1639 {
1640         unsigned k = ro;
1641         if (symbolic) {
1642                 // search first non-zero element in column co beginning at row ro
1643                 while ((k<row) && (this->m[k*col+co].expand().is_zero()))
1644                         ++k;
1645         } else {
1646                 // search largest element in column co beginning at row ro
1647                 GINAC_ASSERT(is_exactly_a<numeric>(this->m[k*col+co]));
1648                 unsigned kmax = k+1;
1649                 numeric mmax = abs(ex_to<numeric>(m[kmax*col+co]));
1650                 while (kmax<row) {
1651                         GINAC_ASSERT(is_exactly_a<numeric>(this->m[kmax*col+co]));
1652                         numeric tmp = ex_to<numeric>(this->m[kmax*col+co]);
1653                         if (abs(tmp) > mmax) {
1654                                 mmax = tmp;
1655                                 k = kmax;
1656                         }
1657                         ++kmax;
1658                 }
1659                 if (!mmax.is_zero())
1660                         k = kmax;
1661         }
1662         if (k==row)
1663                 // all elements in column co below row ro vanish
1664                 return -1;
1665         if (k==ro)
1666                 // matrix needs no pivoting
1667                 return 0;
1668         // matrix needs pivoting, so swap rows k and ro
1669         ensure_if_modifiable();
1670         for (unsigned c=0; c<col; ++c)
1671                 this->m[k*col+c].swap(this->m[ro*col+c]);
1672         
1673         return k;
1674 }
1675
1676 /** Function to check that all elements of the matrix are zero.
1677  */
1678 bool matrix::is_zero_matrix() const
1679 {
1680         for (auto & i : m)
1681                 if (!i.is_zero())
1682                         return false;
1683         return true;
1684 }
1685
1686 ex lst_to_matrix(const lst & l)
1687 {
1688         // Find number of rows and columns
1689         size_t rows = l.nops(), cols = 0;
1690         for (auto & itr : l) {
1691                 if (!is_a<lst>(itr))
1692                         throw (std::invalid_argument("lst_to_matrix: argument must be a list of lists"));
1693                 if (itr.nops() > cols)
1694                         cols = itr.nops();
1695         }
1696
1697         // Allocate and fill matrix
1698         matrix & M = dynallocate<matrix>(rows, cols);
1699
1700         unsigned i = 0;
1701         for (auto & itr : l) {
1702                 unsigned j = 0;
1703                 for (auto & itc : ex_to<lst>(itr)) {
1704                         M(i, j) = itc;
1705                         ++j;
1706                 }
1707                 ++i;
1708         }
1709
1710         return M;
1711 }
1712
1713 ex diag_matrix(const lst & l)
1714 {
1715         size_t dim = l.nops();
1716
1717         // Allocate and fill matrix
1718         matrix & M = dynallocate<matrix>(dim, dim);
1719
1720         unsigned i = 0;
1721         for (auto & it : l) {
1722                 M(i, i) = it;
1723                 ++i;
1724         }
1725
1726         return M;
1727 }
1728
1729 ex diag_matrix(std::initializer_list<ex> l)
1730 {
1731         size_t dim = l.size();
1732
1733         // Allocate and fill matrix
1734         matrix & M = dynallocate<matrix>(dim, dim);
1735
1736         unsigned i = 0;
1737         for (auto & it : l) {
1738                 M(i, i) = it;
1739                 ++i;
1740         }
1741
1742         return M;
1743 }
1744
1745 ex unit_matrix(unsigned r, unsigned c)
1746 {
1747         matrix & Id = dynallocate<matrix>(r, c);
1748         Id.setflag(status_flags::evaluated);
1749         for (unsigned i=0; i<r && i<c; i++)
1750                 Id(i,i) = _ex1;
1751
1752         return Id;
1753 }
1754
1755 ex symbolic_matrix(unsigned r, unsigned c, const std::string & base_name, const std::string & tex_base_name)
1756 {
1757         matrix & M = dynallocate<matrix>(r, c);
1758         M.setflag(status_flags::evaluated);
1759
1760         bool long_format = (r > 10 || c > 10);
1761         bool single_row = (r == 1 || c == 1);
1762
1763         for (unsigned i=0; i<r; i++) {
1764                 for (unsigned j=0; j<c; j++) {
1765                         std::ostringstream s1, s2;
1766                         s1 << base_name;
1767                         s2 << tex_base_name << "_{";
1768                         if (single_row) {
1769                                 if (c == 1) {
1770                                         s1 << i;
1771                                         s2 << i << '}';
1772                                 } else {
1773                                         s1 << j;
1774                                         s2 << j << '}';
1775                                 }
1776                         } else {
1777                                 if (long_format) {
1778                                         s1 << '_' << i << '_' << j;
1779                                         s2 << i << ';' << j << "}";
1780                                 } else {
1781                                         s1 << i << j;
1782                                         s2 << i << j << '}';
1783                                 }
1784                         }
1785                         M(i, j) = symbol(s1.str(), s2.str());
1786                 }
1787         }
1788
1789         return M;
1790 }
1791
1792 ex reduced_matrix(const matrix& m, unsigned r, unsigned c)
1793 {
1794         if (r+1>m.rows() || c+1>m.cols() || m.cols()<2 || m.rows()<2)
1795                 throw std::runtime_error("minor_matrix(): index out of bounds");
1796
1797         const unsigned rows = m.rows()-1;
1798         const unsigned cols = m.cols()-1;
1799         matrix & M = dynallocate<matrix>(rows, cols);
1800         M.setflag(status_flags::evaluated);
1801
1802         unsigned ro = 0;
1803         unsigned ro2 = 0;
1804         while (ro2<rows) {
1805                 if (ro==r)
1806                         ++ro;
1807                 unsigned co = 0;
1808                 unsigned co2 = 0;
1809                 while (co2<cols) {
1810                         if (co==c)
1811                                 ++co;
1812                         M(ro2,co2) = m(ro, co);
1813                         ++co;
1814                         ++co2;
1815                 }
1816                 ++ro;
1817                 ++ro2;
1818         }
1819
1820         return M;
1821 }
1822
1823 ex sub_matrix(const matrix&m, unsigned r, unsigned nr, unsigned c, unsigned nc)
1824 {
1825         if (r+nr>m.rows() || c+nc>m.cols())
1826                 throw std::runtime_error("sub_matrix(): index out of bounds");
1827
1828         matrix & M = dynallocate<matrix>(nr, nc);
1829         M.setflag(status_flags::evaluated);
1830
1831         for (unsigned ro=0; ro<nr; ++ro) {
1832                 for (unsigned co=0; co<nc; ++co) {
1833                         M(ro,co) = m(ro+r,co+c);
1834                 }
1835         }
1836
1837         return M;
1838 }
1839
1840 } // namespace GiNaC