Advanced Computational Methods for

Knowledge Engineering Proceedings of

the 4th International Conference on
Computer Science Applied
Mathematics and Applications
ICCSAMA 2016 2 3 May 2016 Vienna
Austria 1st Edition Thanh Binh Nguyen
Visit to download the full and correct content document:
https://textbookfull.com/product/advanced-computational-methods-for-knowledge-eng
ineering-proceedings-of-the-4th-international-conference-on-computer-science-applie
d-mathematics-and-applications-iccsama-2016-2-3-may-2016-vienna-austr/
More products digital (pdf, epub, mobi) instant
download maybe you interests ...

Advanced Computational Methods for Knowledge

Engineering Proceedings of 3rd International Conference
on Computer Science Applied Mathematics and
Applications ICCSAMA 2015 1st Edition Hoai An Le Thi
https://textbookfull.com/product/advanced-computational-methods-
for-knowledge-engineering-proceedings-of-3rd-international-
conference-on-computer-science-applied-mathematics-and-
applications-iccsama-2015-1st-edition-hoai-an-le-thi/

Software Engineering and Formal Methods 14th

International Conference SEFM 2016 Held as Part of STAF
2016 Vienna Austria July 4 8 2016 Proceedings 1st
Edition Rocco De Nicola
https://textbookfull.com/product/software-engineering-and-formal-
methods-14th-international-conference-sefm-2016-held-as-part-of-
staf-2016-vienna-austria-july-4-8-2016-proceedings-1st-edition-
rocco-de-nicola/

Computational Collective Intelligence 8th International

Conference ICCCI 2016 Halkidiki Greece September 28 30
2016 Proceedings Part I 1st Edition Ngoc-Thanh Nguyen

https://textbookfull.com/product/computational-collective-
intelligence-8th-international-conference-iccci-2016-halkidiki-
greece-september-28-30-2016-proceedings-part-i-1st-edition-ngoc-
thanh-nguyen/

Mobile Web and Intelligent Information Systems 13th

International Conference MobiWIS 2016 Vienna Austria
August 22 24 2016 Proceedings 1st Edition Muhammad
Younas
https://textbookfull.com/product/mobile-web-and-intelligent-
information-systems-13th-international-conference-
mobiwis-2016-vienna-austria-august-22-24-2016-proceedings-1st-
Software Quality The Future of Systems and Software
Development 8th International Conference SWQD 2016
Vienna Austria January 18 21 2016 Proceedings 1st
Edition Dietmar Winkler
https://textbookfull.com/product/software-quality-the-future-of-
systems-and-software-development-8th-international-conference-
swqd-2016-vienna-austria-january-18-21-2016-proceedings-1st-
edition-dietmar-winkler/

Advances in Materials Sciences Energy Technology and

Environmental Engineering Proceedings of the
International Conference on Materials Science MSETEE
2016 Zhuhai China May 28 29 2016 1st Edition Aragona
Patty
https://textbookfull.com/product/advances-in-materials-sciences-
energy-technology-and-environmental-engineering-proceedings-of-
the-international-conference-on-materials-science-
msetee-2016-zhuhai-china-may-28-29-2016-1st-edition-arag/

Advances in Systems Science: Proceedings of the

International Conference on Systems Science 2016 (ICSS
2016) 1st Edition Jerzy ■wi■tek

https://textbookfull.com/product/advances-in-systems-science-
proceedings-of-the-international-conference-on-systems-
science-2016-icss-2016-1st-edition-jerzy-swiatek/

Engineering Applications of Neural Networks 17th

International Conference EANN 2016 Aberdeen UK
September 2 5 2016 Proceedings 1st Edition Chrisina
Jayne
https://textbookfull.com/product/engineering-applications-of-
neural-networks-17th-international-conference-eann-2016-aberdeen-
uk-september-2-5-2016-proceedings-1st-edition-chrisina-jayne/

Computational Science and Its Applications ICCSA 2016

16th International Conference Beijing China July 4 7
2016 Proceedings Part IV 1st Edition Osvaldo Gervasi

https://textbookfull.com/product/computational-science-and-its-
applications-iccsa-2016-16th-international-conference-beijing-
china-july-4-7-2016-proceedings-part-iv-1st-edition-osvaldo-
Advances in Intelligent Systems and Computing 453

Thanh Binh Nguyen

Tien Van Do
Hoai An Le Thi
Ngoc Thanh Nguyen Editors

Advanced
Computational
Methods for Knowledge
Engineering
Proceedings of the 4th International
Conference on Computer Science, Applied
Mathematics and Applications, ICCSAMA
2016, 2–3 May, 2016, Vienna, Austria
Advances in Intelligent Systems and Computing

Volume 453

Series editor
Janusz Kacprzyk, Polish Academy of Sciences, Warsaw, Poland
e-mail: kacprzyk@ibspan.waw.pl
About this Series
The series “Advances in Intelligent Systems and Computing” contains publications on theory,
applications, and design methods of Intelligent Systems and Intelligent Computing. Virtually
all disciplines such as engineering, natural sciences, computer and information science, ICT,
economics, business, e-commerce, environment, healthcare, life science are covered. The list
of topics spans all the areas of modern intelligent systems and computing.
The publications within “Advances in Intelligent Systems and Computing” are primarily
textbooks and proceedings of important conferences, symposia and congresses. They cover
significant recent developments in the field, both of a foundational and applicable character.
An important characteristic feature of the series is the short publication time and world-wide
distribution. This permits a rapid and broad dissemination of research results.

Advisory Board
Chairman
Nikhil R. Pal, Indian Statistical Institute, Kolkata, India
e-mail: nikhil@isical.ac.in
Members
Rafael Bello, Universidad Central “Marta Abreu” de Las Villas, Santa Clara, Cuba
e-mail: rbellop@uclv.edu.cu
Emilio S. Corchado, University of Salamanca, Salamanca, Spain
e-mail: escorchado@usal.es
Hani Hagras, University of Essex, Colchester, UK
e-mail: hani@essex.ac.uk
László T. Kóczy, Széchenyi István University, Győr, Hungary
e-mail: koczy@sze.hu
Vladik Kreinovich, University of Texas at El Paso, El Paso, USA
e-mail: vladik@utep.edu
Chin-Teng Lin, National Chiao Tung University, Hsinchu, Taiwan
e-mail: ctlin@mail.nctu.edu.tw
Jie Lu, University of Technology, Sydney, Australia
e-mail: Jie.Lu@uts.edu.au
Patricia Melin, Tijuana Institute of Technology, Tijuana, Mexico
e-mail: epmelin@hafsamx.org
Nadia Nedjah, State University of Rio de Janeiro, Rio de Janeiro, Brazil
e-mail: nadia@eng.uerj.br
Ngoc Thanh Nguyen, Wroclaw University of Technology, Wroclaw, Poland
e-mail: Ngoc-Thanh.Nguyen@pwr.edu.pl
Jun Wang, The Chinese University of Hong Kong, Shatin, Hong Kong
e-mail: jwang@mae.cuhk.edu.hk

More information about this series at http://www.springer.com/series/11156

Thanh Binh Nguyen ⋅ Tien Van Do
Hoai An Le Thi ⋅ Ngoc Thanh Nguyen
Editors

Advanced Computational
Methods for Knowledge
Engineering
Proceedings of the 4th International
Conference on Computer Science, Applied
Mathematics and Applications, ICCSAMA
2016, 2–3 May, 2016, Vienna, Austria

123
Editors
Thanh Binh Nguyen Hoai An Le Thi
International Institute for Applied Systems Laboratory of Theoretical and Applied
Analysis (IIASA) Computer Science (LITA), UFR MIM
Laxenburg University of Lorraine
Austria Ile du Saulcy, Metz
France
Tien Van Do
Department of Networked Systems Ngoc Thanh Nguyen
and Services Institute of Informatics
Budapest University of Technology Wrocław University of Technology
and Economics Wrocław
Budapest Poland
Hungary

ISSN 2194-5357 ISSN 2194-5365 (electronic)

Advances in Intelligent Systems and Computing
ISBN 978-3-319-38883-0 ISBN 978-3-319-38884-7 (eBook)
DOI 10.1007/978-3-319-38884-7

Library of Congress Control Number: 2016938661

© Springer International Publishing Switzerland 2016

This work is subject to copyright. All rights are reserved by the Publisher, whether the whole or part
of the material is concerned, specifically the rights of translation, reprinting, reuse of illustrations,
recitation, broadcasting, reproduction on microfilms or in any other physical way, and transmission
or information storage and retrieval, electronic adaptation, computer software, or by similar or
dissimilar methodology now known or hereafter developed.
The use of general descriptive names, registered names, trademarks, service marks, etc. in this
publication does not imply, even in the absence of a specific statement, that such names are exempt
from the relevant protective laws and regulations and therefore free for general use.
The publisher, the authors and the editors are safe to assume that the advice and information in this
book are believed to be true and accurate at the date of publication. Neither the publisher nor the
authors or the editors give a warranty, express or implied, with respect to the material contained
herein or for any errors or omissions that may have been made.

Printed on acid-free paper

This Springer imprint is published by Springer Nature

The registered company is Springer International Publishing AG Switzerland
Preface

This volume contains papers presented at the 4th International Conference on

Computer Science, Applied Mathematics and Applications (ICCSAMA 2016) held
on 2–3 May 2016 in Vienna, Austria. The conference is co-organized by Interna-
tional Institute for Applied Systems Analysis (IIASA), Austria, in cooperation with
Department of Information Systems (Wrocław University of Technology, Poland),
Laboratory of Theoretical and Applied Computer Science LITA (Lorraine
University, France), Analysis, Design and Development of ICT systems Labora-
tory, Budapest University of Technology and Economics, Hungary and IEEE SMC
Technical Committee on Computational Collective Intelligence.
The aim of ICCSAMA 2016 is to bring together leading academic scientists,
researchers and scholars to discuss and share their newest results in the fields of
computer science, applied mathematics and their applications. After the peer-review
process, 20 papers by authors from Algeria, Austria, France, Germany, Greece,
Georgia, Hungary, Italy, Malaysia, Spain, Turkey and Vietnam have been selected
for including in these proceedings. The presentations of 19 have been partitioned
into five sessions: Advanced Optimization Methods and Their Applications, Models
for ICT applications, Topics on discrete mathematics, Data Analytic Methods and
Applications and Feature Extraction.
The clear message of the proceedings is that the potentials of computational
methods for knowledge engineering and optimization algorithms are to be
exploited, and this is an opportunity and a challenge for researchers. It is observed
that the ICCSAMA 2013, 2014 and 2015 clearly generated a significant amount of
interaction between members of both computer science and applied mathematics
communities. The intensive discussions have seeded future exciting development at
the interface between computational methods, optimization and engineering.
The works included in these proceedings can be useful for researchers, Ph.D.
and graduate students in optimization theory and knowledge engineering fields. It is
the hope of the editors that readers can find many inspiring ideas and use them to
their research. Many such challenges are suggested by particular approaches and
models presented in the proceedings.

v
vi Preface

We would like to thank all authors, who contributed to the success of the
conference and to this book. Special thanks go to the members of the Steering and
Program Committees for their contributions to keeping the high quality of the
selected papers. Cordial thanks are due to the Organizing Committee members for
their efforts and the organizational work.
Finally, we cordially thank Springer for support and publishing this volume.
We hope that ICCSAMA 2016 significantly contributes to the fulfilment of the
academic excellence and leads to greater success of ICCSAMA events in the future.

May 2016 Thanh Binh Nguyen

Tien Van Do
Hoai An Le Thi
Ngoc Thanh Nguyen
ICCSAMA 2016 Organization

General Chair

Nguyen Thanh Binh, International Institute for Applied Systems Analysis (IIASA)
Nguyen Ngoc Thanh, Wrocław University of Technology, Poland

General Co-chairs

Le Thi Hoai An, Lorraine University, France

Tien Van Do, Budapest University of Technology and Economics, Hungary

Program Chairs

Pham Dinh Tao, INSA Rouen, France

Le Nguyen-Thinh, Humboldt-Universität zu Berlin, Germany

Doctoral Track Chair

Nguyen Anh Linh, Warsaw University, Poland

Organizing Committee

Marcos Carmen, International Institute for Applied Systems Analysis (IIASA)

vii
viii ICCSAMA 2016 Organization

Steering Committee

Nguyen Thanh Binh, International Institute for Applied Systems Analysis (IIASA),
Austria (Co-chair)
Nguyen Ngoc Thanh, Wrocław University of Technology, Poland (Co-Chair)
Le Thi Hoai An, Lorraine University, France (Co-chair)
Tien Van Do, Budapest University of Technology and Economics, Hungary
(Co-chair)
Pham Dinh Tao, INSA Rouen, France
Nguyen Hung Son, Warsaw University, Poland
Nguyen Anh Linh, Warsaw University, Poland
Tran Dinh Viet, Slovak Academy of Sciences, Slovakia

Program Committee

Attila Kiss, Eötvös Loránd University, Budapest

Bui Alain, Université de Versailles-St-Quentin-en-Yvelines, France
Bui Minh-Phong, Eötvös Loránd University, Budapest
Ha Quang Thuy, Vietnam National University, Vietnam
Le Nguyen-Thinh, Humboldt Universität zu Berlin, Germany
Le Thi Hoai An, Lorraine University, France
Ngo Van Sang, University of Rouen, France
Nguyen Anh Linh, Warsaw University, Poland
Nguyen Benjamin, University of Versailles Saint-Quentin-en-Yvelines, France
Nguyen Duc Cuong, International University VNU-HCM, Vietnam
Nguyen Hung Son, Warsaw University, Poland
Nguyen Ngoc Thanh, Wrocław University of Technology, Poland
Nguyen Thanh Binh, International Institute for Applied Systems Analysis (IIASA),
Austria
Nguyen Viet Hung, Laboratory of Computer Sciences Paris 6, France
Pham Cong Duc, University of Pau and Pays de l’Adour, France
Pham Dinh Tao, INSA Rouen, France
Sztrik János, Debrecen University, Hungary
Tien Van Do, Budapest University of Technology and Economics, Hungary
Tran Dinh Viet, Slovak Academy of Sciences, Slovakia
Tran Quoc-Binh, Debrecen University, Hungary
Contents

Part I Advanced Optimization Methods and Their Applications

A DC Programming Approach to the Continuous Equilibrium

Network Design Problem . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
Thi Minh Tam Nguyen and Hoai An Le Thi
A Method for Reducing the Number of Support Vectors
in Fuzzy Support Vector Machine . . . . . . . . . . . . . . . . . . . . . . . . . . . 17
Nguyen Manh Cuong and Nguyen Van Thien
DC Programming and DCA for Transmit Beamforming
and Power Allocation in Multicasting Relay Network . . . . . . . . . . . . . 29
Hoai An Le Thi, Thi Thuy Tran, Tao Pham Dinh and Alain Gély
Solving an Infinite-Horizon Discounted Markov Decision Process
by DC Programming and DCA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43
Vinh Thanh Ho and Hoai An Le Thi

Part II Models for ICT Applications

A Method for Transforming TimeER Model-Based Specification
into Temporal XML . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59
Quang Hoang, Tinh Van Nguyen, Hoang Lien Minh Vo
and Truong Thi Nhu Thuy
Job Scheduling in a Computational Cluster
with Multicore Processors . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 75
Tran Thi Xuan and Tien Van Do
Modeling Multidimensional Data Cubes Based on MDA
(Model-Driven Architecture) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85
Truong Dinh Huy, Nguyen Thanh Binh and Ngo Sy Ngoc

ix
x Contents

Time Series Methods for Synthetic Video Traffic . . . . . . . . . . . . . . . . 99

Christos Katris and Sophia Daskalaki

Part III Topics on Discrete Mathematics

A Constraint Solver for Equations over Sequences and Contexts . . . . . 115
Mariam Beriashvili and Besik Dundua
Hyperpath Centers . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 129
Mehmet Ali Balcı, Sibel Paşalı Atmaca and Ömer Akgüller

Part IV Data Analytic Methods and Applications

Analysis Techniques for Feedback-Based Educational Systems
for Programming. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 141
Nguyen-Thinh Le
Exploring Drivers of Urban Expansion. . . . . . . . . . . . . . . . . . . . . . . . 153
Anna Shchiptsova, Richard Hewitt and Elena Rovenskaya
The Cropland Capture Game: Good Annotators Versus
Vote Aggregation Methods. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 167
Artem Baklanov, Steffen Fritz, Michael Khachay,
Oleg Nurmukhametov and Linda See
The Formal Models for the Socratic Method. . . . . . . . . . . . . . . . . . . . 181
Nico Huse and Nguyen-Thinh Le
Using Local Weather and Geographical Information
to Predict Cholera Outbreaks in Hanoi, Vietnam . . . . . . . . . . . . . . . . 195
Nguyen Hai Chau and Le Thi Ngoc Anh

Part V Feature Extraction

Effect of the Text Size on Stylometry—Application
on Arabic Religious Texts . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 215
S. Ouamour, S. Khennouf, S. Bourib, H. Hadjadj and H. Sayoud
Personalized Facets for Faceted Search Using Wikipedia
Disambiguation and Social Network . . . . . . . . . . . . . . . . . . . . . . . . . . 229
Hong Son Nguyen, Hong Phuc Pham, Trong Hai Duong,
Thi Phuong Trang Nguyen and Huynh Minh Triet Le
Readiness Measurement Model (RMM): Mathematical-Based
Evaluation Technique for the Quantification of Knowledge
Acquisition, Individual Understanding, and Interface Acceptance
Dimensions of Software Applications on Handheld Devices . . . . . . . . . 243
Amalina F.A. Fadzlah
Contents xi

Triple Extraction Using Lexical Pattern-based Syntax Model. . . . . . . . 265

Ai Loan Huynh, Hong Son Nguyen and Trong Hai Duong
Using Mathematical Tools to Reduce the Combinatorial
Explosion During the Automatic Segmentation of the Symbolic
Musical Text . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 281
Michele Della Ventura

Author Index . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 295

 Part I
Advanced Optimization Methods
and Their Applications
A DC Programming Approach
to the Continuous Equilibrium
Network Design Problem

Thi Minh Tam Nguyen and Hoai An Le Thi

Abstract In this paper, we consider one of the most challenging problems in trans-
portation, namely the Continuous Equilibrium Network Design Problem (CENDP).
This problem is to determine capacity expansions of existing links in order to min-
imize the total travel cost plus the investment cost for link capacity improvements,
when the link flows are constrained to be in equilibrium. We used the model of math-
ematical programming with complementarity constraints (MPCC) for the CENDP
and recast it as a DC (Difference of Convex functions) program with DC constraints
via the use of a penalty technique. A DCA (DC Algorithm) was developed to solve
the resulting problem. Numerical results indicate the efficiency of our method vis-
à-vis some existing algorithms.

Keywords CENDP ⋅ MPCC ⋅ Complementarity constraint ⋅ DC programming ⋅

DCA ⋅ DC constraints ⋅ Penalty technique

1 Introduction

The network design problem is one of the critical problems in transportation due
to increasing demand for travel on roads. The purpose of this problem is to select
location to build new links or to determine capacity improvements of existing links
so as to optimize transportation network in some sense. A network design problem
is said to be continuous if it deals with divisible capacity expansions (expressed by
continuous variables). The CENDP consists of determining capacity enhancement
of existing links to minimize the sum of the total travel cost and the expenditure for
link capacity improvement, when the link flows are restricted to be in equilibrium.

T.M.T. Nguyen (✉) ⋅ H.A. Le Thi

Laboratory of Theoretical and Applied Computer Science (LITA),
UFR MIM University of Lorraine, Ile du Saulcy, 57045 Metz, France
e-mail: thi-minh-tam.nguyen@univ-lorraine.fr
H.A. Le Thi
e-mail: hoai-an.le-thi@univ-lorraine.fr

© Springer International Publishing Switzerland 2016 3

T.B. Nguyen et al. (eds.), Advanced Computational Methods
for Knowledge Engineering, Advances in Intelligent Systems
and Computing 453, DOI 10.1007/978-3-319-38884-7_1
4 T.M.T. Nguyen and H.A. Le Thi

The term “equilibrium” in this problem refers to the deterministic user equilibrium
which is defined that for each origin-destination pair, at equilibrium, the travel costs
on all utilized paths equal and do not exceed the travel cost on any unused path. The
CENDP is generally formulated as a bi-level program or mathematical program with
equilibrium constraints. In general, solving these problems is intractable because of
the nonconvexity of both the objective function and feasible region.
Abdulaal and LeBlanc [1] are presumed to be pioneers studying the CENDP. They
stated this problem as a bi-level program and transformed it into an unconstrained
problem which was solved by the Hooke-Jeeves’ algorithm. To date, a number of
approaches have been proposed to address this CENDP, for example the equilib-
rium decomposed optimization heuristics [13], sensitivity analysis based heuristic
methods [4], simulated annealing approach [3], augmented Lagrangian method [10],
gradient-based approaches [2]. More recently, Wang et al. [14] suggested a method
for finding the global solution to the linearized CENDP. These authors formulated
the CENDP as an MPCC and converted complementarity constraints into the mixed-
integer linear constraints. In addition, the travel cost functions were linearized by
introducing binary variables. As a result, the MPCC became a mixed-integer linear
program that was solved by using optimization software package CPLEX. However,
their method for solving the MPCC produces many new variables including a con-
siderable number of the binary variables and the mixed-integer linear program itself
is a hard problem.
The aim of this paper is to give a new approach based on DC programming and
DCA to solve the MPCC model for the CENDP. DC programming and DCA was
introduced by Pham Dinh Tao in 1985 in their preliminary form and extensively
developed by Le Thi Hoai An and Pham Dinh Tao since 1994 ([8, 11, 12] and the
references therein). They are classic now and used by plenty of researchers in various
fields ([5, 15, 16] and the list of references in [6]). Although DCA is a local opti-
mization approach, it provides quite often a global solution and is proved be more
robust and efficient than the standard methods. The success of DCA in many studies
motivated us to investigate it for addressing the CENDP.
The rest of the paper is organized as follows. In Sect. 2, we describe the MPCC
model for the CENDP. Section 3 presents a brief introduction of DC programming
and DCA and the solution method for the CENDP. The numerical results are reported
in Sect. 4 and some conclusions are given in Sect. 5.

2 Problem Formulation

The following notation is used throughout this paper.

A the set of links in the network.
W the set of origin-destination (O-D) pairs.
Rw the set of paths connecting the O-D pair w ∈ W.
qw the fixed travel demand for O-D pair w.
A DC Programming Approach to the Continuous Equilibrium Network Design Problem 5

𝛿ap
w the indicator variables, 𝛿ap
w = 1 if link a is on path p between O-D pair w,

𝛿ap = 0 otherwise.
w

fpw the flow on path p connecting O-D pair w, f = [fpw ].

xa the flow on link a, x = [xa ],
∑ ∑
xa = 𝛿ap
w w
fp .
w∈W p∈Rw

ya the capacity of link a after expansion, y = [ya ].

ya the capacity of link a before expansion, y = [ya ].
ya the upper bound of ya .
𝜋w the minimum travel cost between O-D pair w.
ga (ya ) the improvement cost for link a.
𝜃 the relative weight of improvement costs and travel costs.
ta (xa, ya ) the travel cost on link a,
( )4
xa
ta (xa , ya ) = Aa + Ba .
ya

cwp the travel cost on path p between O-D pair w, c = [cwp ],

∑
cwp = 𝛿ap
w
ta (xa, ya ).
a∈A

In this paper, we assume that ga is convex.

As mentioned in [14], the CENDP can be formulated as the following MPCC:
∑ ∑
min ta (xa, ya )xa + 𝜃 ga (ya ) (MPCC)
x,y,f ,c,𝜋
a∈A a∈A

subject to:
(i) Demand conservation and capacity expansion constraints:
∑
fpw = qw , w ∈ W, (1)
p∈Rw

ya ≤ ya ≤ ya , a ∈ A. (2)

(ii) Deterministic user equilibrium constraints:

fpw (cwp − 𝜋w ) = 0, p ∈ Rw , w ∈ W, (3)

cwp − 𝜋w ≥ 0, p ∈ Rw , w ∈ W. (4)
6 T.M.T. Nguyen and H.A. Le Thi

(iii) Definitional constraints:

∑ ∑
xa = 𝛿ap
w w
fp , xa ≥ 0, a ∈ A, (5)
w∈W p∈Rw
[ ( )4 ]
∑ xa
cwp = 𝛿ap
w
Aa + Ba , p ∈ Rw , w ∈ W, (6)
a∈A
ya
fpw ≥ 0, p ∈ Rw , w ∈ W. (7)

3 Solution Method by DC Programming and DCA

Before presenting the DCA for solving the problem (MPCC), we introduce briefly
DC programming and DCA.

3.1 Introduction to DC Programming and DCA

DC Programming and DCA constitute the backbone of smooth/nonsmooth noncon-

vex programming and global optimization. They address the problem of minimizing
a function f which is a difference of convex functions on the whole space ℝn or on
a convex set C ⊂ ℝn . Generally speaking, a standard DC program takes the form

𝛼 = inf{f (x) ∶= g(x) − h(x) ∶ x ∈ ℝn } (8)

where g, h ∈ 𝛤0 (ℝn ), the set of lower semi-continuous proper convex functions on

ℝn . Such a function f is called a DC function, and g − h, a DC decomposition of f ,
while the convex functions g and h are DC components of f . The convex constraint
x ∈ C can be incorporated in the objective function of (8) by using the indicator
function on C.
For a convex function 𝜙, the subdifferential of 𝜙 at x0 , denoted as 𝜕𝜙(x0 ), is
defined by
{ }
𝜕𝜙(x0 ) ∶= y ∈ ℝn ∶ 𝜙(x) ≥ 𝜙(x0 ) + ⟨x − x0 , y⟩, ∀x ∈ ℝn .

The idea of DCA for solving the problem (8) is quite simple: each iteration k of
DCA approximates the concave part −h by its affine majorization (that corresponds
to taking yk ∈ 𝜕h(xk )) and minimizes the resulting convex function. For a complete
study of standard DC programming and DCA, readers are referred to [8, 11] and the
references therein.
A DC Programming Approach to the Continuous Equilibrium Network Design Problem 7

Recently, Le Thi et al. [7, 12] investigated the extension of DC programming and
DCA to solve DC programs with DC constraints which are of the form

min g(x) − h(x)

s.t. x ∈ C, (9)
gi (x) − hi (x) ≤ 0, i = 1, … , m,

where C ⊆ ℝn is a nonempty closed convex set; g, h, gi , hi ∈ 𝛤0 (ℝn ), i = 1, … , m.

This class of nonconvex programs is the most general in DC programming and
solving them is more difficult than solving standard DC programs because of the
nonconvexity of the constraints. Two approaches for the problem (9) were proposed
in [7]. The first one is based on penalty techniques in DC programming while the
second one linearizes concave parts in DC constraints to build convex inner approx-
imations of the feasible set. Since we use the second approach to solve the CENDP,
we shortly present herein this approach for the problem (9).
Using the main idea of the DCA that linearizes the concave part of the DC struc-
ture, we can derive a sequential convex programming method based on solving the
following convex subproblems

min g(x) − ⟨yk , x⟩

s.t. x ∈ C, (10)
gi (x) − hi (x ) −
k
⟨yki , x − x ⟩ ≤ 0, i = 1, … , m,
k

where xk ∈ ℝn is the current iterate, yk ∈ 𝜕h(xk ), yki ∈ 𝜕hi (xk ) for i = 1, … , m.

This linearization introduces an inner convex approximation of the feasible set
of the problem (9). However, this convex approximation is quite often poor and can
lead to infeasibility of convex subproblem (10). To deal with the feasibility of sub-
problems, a relaxation technique was proposed. Instead of (10), we consider the sub-
problem

min g(x) − ⟨yk , x⟩ + tk s

s.t. x ∈ C, (11)
gi (x) − hi (xk ) − ⟨yki , x − xk ⟩ ≤ s, i = 1, … , m,
s ≥ 0,

where tk > 0 is a penalty parameter. Clearly, (11) is a convex problem that is always
feasible. Moreover, the Slater constraint qualification is satisfied for the constraints
of (11), thus the Karush-Kuhn-Tucker (KKT) optimality condition holds for some
solution (xk+1 , sk+1 ) of (11).
8 T.M.T. Nguyen and H.A. Le Thi

DCA scheme for the DC program with DC constraints (9)

∙ Initialization. Choose an initial point x0 ; 𝛿1 , 𝛿2 > 0, an initial penalty parameter
t1 > 0. Set 0 ⟵ k.
∙ Repeat.
Step 1. Compute yk ∈ 𝜕h(xk ), yki ∈ 𝜕hi (xk ), i = 1, … , m,
Step 2. Compute (xk+1 , sk+1 ) as the solution of the convex problem (11), and the
associated Lagrange multipliers (𝜆k+1 , 𝜇k+1 ),
Step 3. Penalty parameter update.
compute rk = min{‖x k+1 − xk ‖−1 , ‖𝜆k+1 ‖ + 𝛿 }
{ 1 1
𝛽k if 𝛽k ≥ rk ,
and set 𝛽k+1 =
𝛽k + 𝛿2 if 𝛽k < rk .
Step 4. k ← k + 1,
∙ Until xk+1 = xk and sk+1 = 0.
The global convergence of the above algorithm is completely proved in [7].

3.2 DCA for Solving the Problem (MPCC)

It is worth noting that ∑ ∑

ta (xa, ya )xa = qw 𝜋w ,
a∈A w∈W

therefore the objective function of the problem (MPCC) is equal to

∑ ∑
qw 𝜋w + 𝜃 ga (ya )
w∈W a∈A

which is convex. However, the MPCC is still a difficult problem due to the non-
convexity of the feasible region which stems from complementarity constraints and
the non-linear travel cost functions. To handle this problem, the complementarity
constraints { }
fpw (cwp − 𝜋w ) = 0, fpw ≥ 0, cwp − 𝜋w ≥ 0

are replaced by
{ }
min(fpw , cwp − 𝜋w ) ≤ 0, fpw ≥ 0, cwp − 𝜋w ≥ 0 .

xa2
Besides, for a ∈ A, the new variables ua = y2a
are introduced to lessen the level of
complexity of the constraints (6).
A DC Programming Approach to the Continuous Equilibrium Network Design Problem 9

The (MPCC) can be rewritten as follows:

∑ ∑
min qw 𝜋w + 𝜃 ga (ya )
x,y,f ,c,𝜋,u
w∈W a∈A
s.t. (1), (2), (3), (4), (6),
min(fpw , cwp − 𝜋w ) ≤ 0, p ∈ Rw , w ∈ W,
∑
cwp − 𝛿ap
w
(Aa + Ba u2a ) = 0, p ∈ Rw , w ∈ W,
a∈A
xa2
− ua ya = 0, a ∈ A.
ya

This problem is equivalent to the following problem:

∑ ∑
min qw 𝜋w + 𝜃 ga (ya ) (P1)
x,y,f ,c,𝜋,u,v
w∈W a∈A
s.t. (1), (2), (3), (4), (6),
min(fpw , cwp − 𝜋w ) ≤ 0, p ∈ Rw , w ∈ W, (12)
∑
cwp − 𝛿ap
w
(Aa + Ba u2a ) ≤ 0, p ∈ Rw , w ∈ W, (13)
a∈A
∑
𝛿ap
w
(Aa + Ba u2a ) − cwp ≤ 0, p ∈ Rw , w ∈ W, (14)
a∈A
xa2
− va ≤ 0, a ∈ A, (15)
ya
va − ua ya ≤ 0, a ∈ A, (16)
x2
ua ya − a ≤ 0, a ∈ A. (17)
ya

The problem (P1) can be solved by transforming the constraints (12), (13) and
(15)–(17) into DC constraints and developing a DCA for the resulting problem. How-
ever, when the total number of paths is large this method produces many DC con-
straints. To diminish the number of these DC constraints, the constraints (12), (13)
of the problem (P1) are penalized and we obtain the problem:
∑ ∑
min qw 𝜋w + 𝜃 ga (ya ) + t1 F1 (X) + t2 F2 (X) (P2)
w∈W a∈A
s.t. X ∈ P,
∑
𝛿ap
w
(Aa + Ba u2a ) − cwp ≤ 0, p ∈ Rw , w ∈ W,
a∈A

xa2 − va ya≤ 0, a ∈ A,
va − ua ya ≤ 0, a ∈ A,
x2
ua ya − a ≤ 0, a ∈ A,
ya
10 T.M.T. Nguyen and H.A. Le Thi
( )
∑ ∑ ∑
where F1 (X) = min(fpw , cwp − 𝜋w ), F2 (X) = cwp − 𝛿ap
w
(Aa + Ba u2a ) ,
p,w p,w a∈A
{ }
P= X = (x, y, f , c, 𝜋, u, v) ∣ X satisfies (1), (2), (3), (4), (6) and ua ≥ 0, ∀a .

Obviously, P is a polyhedral convex set in ℝn with n = 4nL + 2nP + nOD (nL is the
number of links, nP is the total number of paths, nOD is the number of O-D pairs).
It is easy to prove that if an optimal solution X ∗ to (P2) satisfies F1 (X ∗ ) = 0
and F2 (X ∗ ) = 0 then it is an optimal solution to the original problem. Furthermore,
according to the general result of the penalty method (see [9], pp. 402–405), for large
numbers t1 , t2 , the minimum point of problem (P2) will be in a region where F1 , F2
are relatively small. For this reason, we consider the penalized problem (P2) with
sufficiently large values of t1 , t2 .
Using the equalities

1 1( 2 ) 1( 2 ) 1
MN = (M + N)2 − M + N2 = M + N 2 − (M − N)2 ,
2 2 2 2
the penalized problem (P2) can be reformulated as the DC program with DC con-
straints:

min G(X) − H(X) (P3)

s.t. X ∈ P,
∑
𝛿ap
w
(Aa + Ba u2a ) − cwp ≤ 0, p ∈ Rw , w ∈ W,
a∈A
Gia (X) − Hia (X) ≤ 0, i = 1, 2, 3; a ∈ A,
( )
∑ ∑ ∑ ∑
where G(X) = qw 𝜋w + 𝜃 ga (ya ) + t2 cwp − 𝛿ap
w
Aa ,
w∈W a∈A p,w a∈A
( )
∑ ∑ ∑
H(X) = t1 max(−fpw , −cwp + 𝜋 w ) + t2 𝛿ap
w
Ba u2a ,
p,w p,w a∈A
1( 2 ) 1
G1a (X) = xa2 + v + y2a , H1a (X) = (va + ya )2 ,
2 a 2
1( 2 ) 1
G2a (X) = va + u + y2a , H2a (X) = (ua + ya )2 ,
2 a 2
2
1 x 1
G3a (X) = (u2a + y2a ), H3a (X) = a + (ua − ya )2 .
2 ya 2

Adapting the generic DCA scheme for DC programs with DC constraints, we

propose a DCA for solving the problem (P3). At each iteration k, we compute

Y k ∈ 𝜕H(X k ), Yiak ∈ 𝜕Hia (X k ), i = 1, 2, 3; a = 1, … , nL

A DC Programming Approach to the Continuous Equilibrium Network Design Problem 11

and then solve the following convex problem:

min F(X, s) = G(X) − ⟨Y k , X⟩ + ts

s.t. X ∈ P,
∑
𝛿ap
w
(Aa + Ba u2a ) − cwp ≤ 0, p ∈ Rw , w ∈ W, (18)
a∈A
Gia (X) − Hia (X k ) − ⟨Yiak , X − X k ⟩ ≤ s, i = 1, 2, 3; a = 1, … , nL,
s ≥ 0.

A subgradient Y = (̂ y, ̂f , ̂
x, ̂ c, 𝜋̂, ̂
u, ̂
v) ∈ 𝜕H(X) can be selected as follows:

{ {
−t1 if fpw < cwp − 𝜋w 0 if fpw < cwp − 𝜋w
̂ y = 0, f̂pw =
x=̂ ̂
, cp =
w (19)
0 otherwise −t1 otherwise
{
0 if fp < cp − 𝜋w
w w ∑
𝜋
̂w = , ûa = 2t2 𝛿ap
w
Ba ua , ̂
v = 0. (20)
t1 otherwise p,w

{ }
Since Hia is differentiable, 𝜕Hia (X) = ∇Hia (X) , i = 1, 2, 3; a = 1, … , nL. Con-
sider Y = (̂ y, ̂f , ̂
x, ̂ c, 𝜋̂, ̂
u, ̂
v), we have

x = ̂f = ̂
Y = ∇H1a (X) ⇔ ̂ c = 𝜋̂ = ̂
u = 0, ŷa = v̂a = va + ya , (21)
x = ̂f = ̂
Y = ∇H2a (X) ⇔ ̂ c = 𝜋̂ = ̂
v = 0, ŷa = ûa = ua + ya , (22)
Y = ∇H3a (X)
2xa x2
⇔ x̂a = , ŷa = − a2 + ya − ua , ̂f = ̂
c = 𝜋̂ = ̂
v = 0, ûa = ua − ya . (23)
ya ya

Algorithm (DCA for the problem (P3))

∙ Initialization. Choose an initial point X 0 ∈ ℝn and a penalty parameter t =

t0 . Set k = 0 and let 𝜀1 , 𝜀2 be sufficiently small positive numbers.
∙ Repeat.
Step 1. Compute Y k ∈ 𝜕H(X k ), Yiak ∈ 𝜕Hia (X k ), i = 1, 2, 3; a = 1, … , nL via
(19)–(23).
Step 2. Compute (X k+1 , sk+1 ) as the solution of (18).
Step 3. k ← k + 1(
∙ Until s ≤ 𝜀2 and ‖X k+1 − X k ‖ ≤ 𝜀1 (‖X k ‖ + 1) or
)
|F(X k+1 , sk+1 ) − F(X k , sk )| ≤ 𝜀1 (|F(X k , sk )| + 1) .
12 T.M.T. Nguyen and H.A. Le Thi

4 Numerical Results

In order to illustrate the efficiency of the proposed algorithm, numerical experiments

were performed on a network consisting of 6 nodes and 16 links (Fig. 1). This net-
work has been used to test the different algorithms that deal with the problem CENDP
[2, 3, 10, 13, 14]. The travel demand for this network was considered in two cases
(given in Table 1). The detailed data including the parameters of travel cost func-
tions and enhancement cost functions, the capacity of links before expansion, the
upper bound of the capacity improvements can be found in [3]. Our algorithm was
compared with eight other methods. The abbreviations for these methods and their
sources are listed in Table 2. We also made a comparison with a good lower bound
of the CENDP (mentioned in [2] and labeled as “SO”).

Fig. 1 16-link network

Table 1 Level of travel demand

Case I Case II
Demand from node 1 to node 6 5 10
Demand from node 6 to node 1 10 20
Total travel demand 15 30

Table 2 Abbreviation of method names

Abbreviation Name Source
EDO Equilibrium decomposed optimization [13]
SA Simulated annealing algorithm [3]
AL Augmented lagrangian algorithm [10]
GP Gradient projection method [2]
CG Conjugate gradient projection method [2]
QNEW Quasi-NEWton projection method [2]
PT PARATAN version of gradient projection method [2]
MILP Mixed-Integer linear program transformation [14]
DCA DC algorithm This paper
Table 3 The numerical results of DCA and the existing algorithms in case I
EDO SA AL GP CQ QNEW PT MILP DCA SO
△y1 0 0 0 0 0 0 0 0 0 0
△y2 0 0 0 0 0 0 0 0 0 0
△y3 0.13 0 0.0062 0 0 0 0 0 0 0
△y4 0 0 0 0 0 0 0 0 0 0
△y5 0 0 0 0 0 0 0 0 0 0
△y6 6.26 3.1639 5.2631 5.8302 6.1989 6.0021 5.9502 4.41 4.8487 5.9979
△y7 0 0 0.0032 0 0 0 0 0 0 0
△y8 0 0 0 0 0 0 0 0 0 0
△y9 0 0 0 0 0 0 0 0 0 0
△y10 0 0 0 0 0 0 0 0 0 0
△y11 0 0 0.0064 0 0 0 0 0 0 0
△y12 0 0 0 0 0 0 0 0 0 0
△y13 0 0 0 0 0 0 0 0 0 0
△y14 0 0 0 0 0 0 0 0 0 0
△y15 0.13 0 0.7171 0.87 0.0849 0.1846 0.5798 0 0 0.1449
△y16 6.26 6.7240 6.7561 6.1090 7.5888 7.5438 7.1064 7.7 7.5621 7.5443
Obj 201.84 198.104 202.991 202.24 199.27 198.68 200.60 199.781 199.656 193.39
Gap 4.37 2.44 4.96 4.58 3.04 2.74 3.73 3.30 3.24 0
A DC Programming Approach to the Continuous Equilibrium Network Design Problem
13
 14

Table 4 The numerical results of DCA and the existing algorithms in case II
EDO SA AL GP CQ QNEW PT MILP DCA SO
△y1 0 0 0 0.1013 0.1022 0.0916 0.101 0 0 0.1165
△y2 4.88 0 4.6153 2.1818 2.1796 2.1521 2.1801 4.41 4.6144 2.1467
△y3 8.59 10.1740 9.8804 9.3423 9.3425 9.1408 9.3339 10.00 9.9166 9.3447
△y4 0 0 0 0 0 0 0 0 0 0
△y5 0 0 0 0 0 0 0 0 0 0
△y6 7.48 5.7769 7.5995 9.0443 9.0441 8.8503 9.0361 7.42 7.3442 9.0424
△y7 0.26 0 0.0016 0 0 0 0 0 0 0
△y8 0.85 0 0.6001 0.008 0.0074 0.0114 0.0079 0.54 0.5922 0
△y9 0 0 0.001 0 0 0 0 0 0 0
△y10 0 0 0 0 0 0 0 0 0 0
△y11 0 0 0 0 0 0 0 0 0 0
△y12 0 0 0.1130 0.0375 0.0358 0.0377 0 0 0 0
△y13 0 0 0 0 0 0 0 0 0 0
△y14 1.54 0 1.3184 0.0089 0.0083 0.0129 0.0089 1.18 1.3153 0
△y15 0.26 0 2.7265 1.9433 1.9483 1.9706 1.9429 0 0 1.7995
△y16 12.52 17.2786 17.5774 18.9859 18.986 18.575 18.9687 19.50 20 18.9875
Obj 540.74 528.497 532.71 534.017 534.109 534.08 534.02 523.627 522.644 512.013
Gap 5.61 3.22 4.04 4.30 4.32 4.31 4.30 2.27 2.08 0
T.M.T. Nguyen and H.A. Le Thi
A DC Programming Approach to the Continuous Equilibrium Network Design Problem 15

In the DCA for the CENDP, we took 𝜀1 = 𝜀2 = 10−6 , the initial point was selected
as follows:
X 0 = (x0 , y0 , f 0 , c0 , 𝜋 0 , u0 , v0 )

with
∑ { }
x0 = y0 = f 0 = u0 = v0 = 0, c0w
p
= 𝛿ap
w
Aa , 𝜋w0 = min c0w
p
∶ p ∈ Rw
a∈A

The penalty parameters were chosen to be t1 = 350, t2 = 100, t = 500 and t1 =

400, t2 = 100, t = 450 for the cases I and II respectively.
For the MILP approach, the feasible region of link flow (resp. the feasible domain
of the road capacity expansion) was divided into 10 equal segments. According to
the authors, this partition is quite fine.
The computational results for the cases I and II are summarized in Tables 3 and
4 respectively. These results are taken from the previous work [2, 14] except for the
results of DCA. In Tables 3 and 4, we use the following notations:
∙ △ya : the capacity enhancement on link a.
∙ Obj: the value of objective function.
∙ Gap: the relative difference with respect to SO defined by

100(Obj − LB)
Gap(%) =
LB
where LB is the lower bound of the CENDP.
From Tables 3 and 4, we observe that the optimal value provided by DCA is quite
close to the lower bound of the CENDP (the relative difference is 3.24 and 2.08 %
in the cases I and II respectively). In the case I with the lower travel demand, DCA
outperforms 5 out of 8 algorithms. Although the optimal value given by DCA is not
better than those given by SA, CQ and QNEW, the relative difference between this
optimal value and the best one (found by SA, a global optimization technique) is
fairly small (0.78 %). In the case II, when the travel demand increases, DCA yields
the optimal value that is superior to those computed by all the other methods.

5 Conclusions

We proposed an algorithm based on DC programming and DCA for handling the

CENDP. We considered the MPCC model for this problem and employed a penaly
technique to reformulate it as a DC program with DC constraints. Numerical experi-
ments on a small network indicate that DCA solves the CENDP more effectively than
the existing methods. Besides, the optimal value provided by DCA is quite close to
the lower bound of the CENDP. This shows that the solution found by DCA may be
global, even though DCA is a local optimization approach.
16 T.M.T. Nguyen and H.A. Le Thi

Acknowledgments This research is funded by Foundation for Science and Technology Devel-
opment of Ton Duc Thang University (FOSTECT), website: http://fostect.tdt.edu.vn, under Grant
FOSTECT.2015.BR.15.

References

1. Abdulaal, M., LeBlanc, L.J.: Continuous equilibrium network design models. Transp. Res. Part
B 13, 19–32 (1979)
2. Chiou, S.W.: Bilevel programming for the continuous transport network design problem.
Transp. Res. Part B 39, 361–383 (2005)
3. Friesz, T.L., Cho, H.J., Mehta, N.J., Tobin, R.L., Anandalingam, G.: A simulated annealing
approach to the network design problem with variational inequality constraints. Transp. Sci.
26(1), 18–26 (1992)
4. Friesz, T.L., Tobin, R.L., Cho, H.J., Mehta, N.J.: Sensitivity analysis based heuristic algorithms
for mathematical programs with variational inequality constraints. Math. Program. 48, 265–
284 (1990)
5. Hoang, N.T.: Linear convergence of a type of iterative sequences in nonconvex quadratic pro-
gramming. J. Math. Anal. Appl. 423(2), 1311–1319 (2015)
6. Le Thi, H.A.: DC programming and DCA. http://www.lita.univ-lorraine.fr/~lethi
7. Le Thi, H.A., Huynh, V.N., Pham Dinh, T.: DC programming and DCA for general DC pro-
grams. In: Advances in Intelligent Systems and Computing, pp. 15–35. Springer (2014)
8. Le Thi, H.A., Pham Dinh, T.: The DC (difference of convex functions) programming and DCA
revisited with DC models of real world nonconvex optimization problems. Ann. Oper. Res. 133,
23–46 (2005)
9. Luenberger, D.G., Ye, Y.: Linear and Nonlinear Programming. Springer (2008)
10. Meng, Q., Yang, H., Bell, M.G.H.: An equivalent continuously differentiable model and a
locally convergent algorithm for the continuous network design problem. Transp. Res. Part B
35, 83–105 (2001)
11. Pham Dinh, T., Le Thi, H.A.: Convex analysis approach to D.C. programming: theory, algo-
rithms and applications. Acta Math. Vietnam 22(1), 289–355 (1997)
12. Pham Dinh, T., Le Thi, H.A.: Recent advances in DC programming and DCA. Trans. Comput.
Collect. Intell. 8342, 1–37 (2014)
13. Suwansirikul, C., Friesz, T.L., Tobin, R.L.: Equilibrium decomposed optimization: a heuristic
for continuous equilibrium network design problem. Transp. Sci. 21(4), 254–263 (1987)
14. Wang, D., Lo, H.K.: Global optimum of the linearized network design problem with equilib-
rium flows. Transp. Res. Part B 44(4), 482–492 (2010)
15. Wu, C., Li, C., Long, Q.: A DC programming approach for sensor network localization with
uncertainties in anchor positions. J. Ind. Manag. Optim. 10(3), 817–826 (2014)
16. Yin, P., Lou, Y., He, Q., Xin, J.: Minimization of l1−2 for compressed sensing. SIAM J. Sci.
Comput. 37(1), A536–A563 (2015)
A Method for Reducing the Number
of Support Vectors in Fuzzy Support
Vector Machine

Nguyen Manh Cuong and Nguyen Van Thien

Abstract We offer an efficient method to reduce the number of support vectors

for Fuzzy Support Vector Machine. Firstly, we consider the Fuzzy Support Vector
Machine model which was proposed by Lin and Wang. For the reducing the num-
ber of support vectors, we apply the l0 regularization term to the dual form of this
model. The resulting optimization problem is non-smooth and non-convex. The l0
is then replaced by an approximation function. An algorithm which is based on DC
programming and DCA is then investigated to solve this problem. Numerical results
on real-world datasets show the efficiency and the superiority of our method versus
the standard algorithm on both support vector reduction and classification.

Keywords DC Programming and DCA ⋅ Fuzzy Support Vector Machine ⋅ Support

vector reduction

1 Introduction

Support Vector Machine (SVM) is one of the most popular techniques for pat-
tern classification and regression estimation problem. In recent years, this topic has
attracted a great deal of interest in many disciplines. In the training phase, all data
in the same class of training set are treated with the assumption that they have the
same role. However, noise data or outliers are inevitable in the applications [24].
In some cases, each input point may not be fully assigned to one of the classes. In
2002, Lin and Wang [27] proposed Fuzzy Support Vector Machine (FSVM) in which
a fuzzy membership is applied to each input point. This helps to reduce the influence
of non-support vectors, noise and outliers on the optimal hyperplane.

N. Manh Cuong (✉) ⋅ N. Van Thien

Faculty of Information Technology, Hanoi University of Industry - Vietnam,
Hanoi, Vietnam
e-mail: manhcuong.haui@yahoo.com
N. Van Thien
e-mail: nvthien1970@gmail.com

© Springer International Publishing Switzerland 2016 17

T.B. Nguyen et al. (eds.), Advanced Computational Methods
for Knowledge Engineering, Advances in Intelligent Systems
and Computing 453, DOI 10.1007/978-3-319-38884-7_2
18 N. Manh Cuong and N. Van Thien

A challenge of Machine Learning is the handling of the input dataset with very
large dimension [20]. In SVM and FSVM, the number of support vector which
obtains from the training phase is usually large. This causes the slowness of classifi-
cation phase. Many methods are proposed to treat this issue (see [11] and reference
therein). Their target is how to reduce the number of support vectors but without loss
of generalization performance [11].
One of the first research for support vector reduction in SVM was proposed by
Burges in 1996 [3] which computes an estimation of discriminator function in terms
of a reduced set of vectors. This reduced set method is believed to be computation-
ally expensive although its improvements have been mentioned in a number of later
researches (see [29] for more details). In 2002, Downs et al. [4] proposed a method in
which the unnecessary support vectors are detected based on its linear dependence on
the other support vectors in the feature space. However, the reduction is not obvious
in order to avoid any possible decline in accuracy [11]. Later, an iterative approach
was proposed in which the training phase is repeated on the nested subsets of train-
ing set until the accuracy of classifier is acceptable or the number of support vectors
stops decreasing. Belong to this approach, it is possible to mention here the method
of Li and Zang [26], Lee and Mangasarian [22] and the deeply researches of Huang
and Lee [23] and Keerthi et al. [36]. In [22], the l1 regularization term ∥ 𝛼 ∥1 is used
as one of the factors for the support vector reduction purpose.
On the theoretical point of view, using l0 regularization ∥ 𝛼 ∥0 is a natural way to
reduce the number of support vectors. Unfortunately, the minimization of l0 term is
a non-smooth and non-convex optimization problem [18, 20]. In 2010, Huang et al.
proposed Sparse Support Vector Classification which using the l0 regularization term
in the primal form of the Support Vector Classification problem. The Expectation
Maximization (EM) algorithm is then used to find the optimal solution. Recently,
some efficient algorithms based on DC Programming and DCA are presented in [15,
16, 18–20, 30]. But they are applied for the SVM, Multi-classes SVM and/or S3VM
models. However, these algorithms are intensely suitable for the linear separable
data.
In this paper, we consider the Fuzzy Support Vector Machine model which was
proposed by Lin and Wang [27]. For the purpose of support vector reduction, the l0
regularization term of 𝛼 is added to the dual form of this model with a turning para-
meter. The resulting problem is a non-smooth, non-convex optimization problem.
The l0 is then approximated by the Concave approximation function [1] that results
to a non-convex optimization problem. Our solution method is based on Difference
of Convex functions (DC) programming and DC Algorithms (DCA) that were intro-
duced by Pham Dinh Tao in their preliminary form in 1985 and have been extensively
developed since 1994 by Le Thi Hoai An and Pham Dinh Tao and become now clas-
sic and more and more popular (see, e.g. [12–21, 30–33] and references therein).
Our works are motivated by many folds: firstly, whereas several support vector
reduction methods for SVM have been proposed in the literature (see e.g. [1–11,
22, 23, 25, 26, 29, 35, 37]), there exist a few works on this issue for FSVM. Sec-
ondly, finding an efficient algorithm for solving the non-convex optimization prob-
lem remains an important topic in recent years. Finally, DCA has been successfully
Another random document with
no related content on Scribd:
 XLIII
SUR LE GUADALQUIVIR

Le bateau d’Algéciras, faisant escale à Cadix, levait l’ancre à

trois heures du matin, heure vraiment espagnole. Couchés très tard,
nous craignions de manquer le départ, mais nous comptions sans
les moustiques qui, à deux heures, nous tenaient encore éveillés.
Une demi-lieue séparait notre casa de Huespedes de la tour del Oro,
place d’embarquement ; il ne fallait plus songer à dormir.
Mais sur les bords du Guadalquivir pas plus que sur ceux de la
Seine, l’on ne se pique de ponctualité. Cette vertu britannique est
peu prisée des races latines. C’est un tort ; nous avons, en
revanche, d’autres vertus que les Anglais ne possèdent pas. Quoi
qu’il en soit, à Séville comme à Paris, on arrive généralement trois
quarts d’heure après celui de grâce — quand on arrive ; — c’est
pourquoi ceux qui n’aiment pas se morfondre, avancent de soixante
minutes en donnant rendez-vous. C’est ce que faisait le capitaine de
la Carolina, et peu au courant de ces usages, nous arrivâmes au
paquebot pour y trouver l’équipage endormi.
Quand toutes les horloges de la ville, auxquelles se joignirent
celles du faubourg de la Triana qui lui fait face, eurent décroché
quatre coups, ce qui prit un certain temps, les passagers
commencèrent à déboucher sur le quai.
 On chauffe et bientôt l’on se met en mouvement un peu avant le
lever du soleil.
Le Guadalquivir est le seul fleuve navigable de l’Espagne, pour
les bateaux ne jaugeant pas plus de 200 tonneaux, et encore à partir
de Séville, c’est-à-dire à 25 lieues de l’océan.
Ses eaux rousses, ses bords plats, ses nombreuses volées
d’oiseaux aquatiques, lui donnent en maints endroits une
physionomie hollandaise. Mais l’azur intense du firmament, l’ardent
soleil, les ombres bleues, les cigognes et les hérons, groupés près
de ses longues lignes de joncs, rappellent bien vite qu’on navigue
dans les splendeurs du Midi.
Nous glissons rapidement dans les méandres du fleuve, charmés
à chaque détour par des coins de rivage inattendus, enveloppés
dans les molles clartés de l’aube. Villas émergeant d’un bouquet de
palmiers, vieux cloître abandonné, assis au sommet d’une colline et
dont la cloche rouillée a depuis longtemps sonné matines pour la
dernière fois.
Séville s’enfonce et disparaît derrière l’épais rideau des jardins
de San-Telmo, tandis que la Giralda, au contraire, semble grandir
davantage et monter dans les brumes violettes, aiguille ardente,
seule éclairée par les feux du levant. A gauche de nous, la grande
plaine festonnée au loin par des ondulations gris-perle. Les
habitations se clairsèment ; les joncs, en masses épaisses,
défendent l’approche des rives, refuges de nuées de hérons et de
canards.
Voici une bourgade, dont les maisons pittoresquement
entassées, se groupent autour d’un monastère fortifié. Ses bastions
et ses murs enserrent des jardins touffus, dont ils rejettent en
verdoyantes cascades par-dessus leurs créneaux la flore trop
abondante.
Tous ici sont levés avant le soleil. Les petits garçons jouent déjà
au toro sur la rive devant un aréopage de petites filles attentives.
Mais le globe radieux se lève à son tour, émergeant lentement
d’une longue bande orangée, tandis que nous filons sans bruit entre
une double ligne de saules, de peupliers, de glaïeuls et de joncs. On
dirait maintenant certains décors de Marne et de Seine avec plus de
sévérité, une plus large envergure.
Ce Guadalquivir est empreint d’une placide et poétique majesté.
C’est bien la grande rivière, l’Oued el Kébir, chantée par les poètes
arabes et andalous.
« Je te salue et je t’aime, Guadalquivir, roi de l’Andalousie,
s’écriait le duc de Rivas, proscrit. Comme tu t’avances avec fierté
vers la mer, toi qui coules si calme et reflètes dans tes ondes les
murs antiques de Cordoue. »
Cependant, comme les grandes et belles routes d’Espagne, cette
route liquide est presque déserte. A peine si nous rencontrons de
temps à autre un vapeur, un voilier, un canot.
A travers les vertes trouées des bords, on aperçoit des champs
de maïs, des fermes lointaines et éparses, des coteaux rayés de
vignes, des bouquets d’oliviers.
Quelques barques se détachent chargées de filets. On approche
d’une bourgade, Coria del Rio, vieille cité romaine. Une jeune fille,
en frais déshabillé, rêve sur le balcon d’une maison de maître. On
passe assez près pour voir qu’elle est jolie. Deux petits officiers de
hussards, tout fraîchement fabriqués à l’École de Tolède, la saluent
et lui envoient un baiser. Elle sourit et secoue la tête, voulant dire
sans doute que ce ne sont pas des baisers à travers l’espace qu’il lui
faut.
Dans la plaine découverte, immense, que dominent les pics
d’Utrera, des troupeaux de jeunes taureaux demi-sauvages paissent
tranquillement dans la paix de l’âge d’or ; plus loin, des chasseurs
battent les hautes herbes, font lever des compagnies de canards.
Cette vue excite l’humeur cynégétique de plusieurs passagers. Ils
arment leurs fusils et font rage sur les hérons et les mouettes. Balles
perdues. Cassements inutiles de pattes et d’ailes. Les pauvres bêtes
éclopées vont crever dans les fourrés de joncs. Cela amuse les
spectateurs. Une infortunée cigogne, paisiblement perchée sur une
jambe, reçoit une balle en plein corps. Bien visé. On applaudit. Ceux
qui ne disent rien se regardent en hochant la tête : Voilà ce qui
s’appelle un joli coup de fusil !
Cruelle et sotte manie de tirer ainsi, sans profit aucun, sur des
êtres inoffensifs, sans autre raison que le plaisir de tuer ! Et j’ai
entendu de ces chasseurs faire de la sensiblerie et déclamer contre
les courses de taureaux, qui ont cependant une utilité et une excuse,
puisque les bénéfices sont versés aux hospices. Et là, au moins, le
tueur risque sa peau.
Pendant qu’on visait, il me venait de folles envies de faire dévier,
d’un solide coup de ma trique, ce bras de meurtrier imbécile.
Eh ! brute ! garde ta poudre pour l’homme, ton seul ennemi.
Les déchirures d’Utrera se sont effacées, les mamelons meurent
en ondulations légères. Plus rien que la plaine au niveau du fleuve
dont les sinuosités vont se perdre en s’élargissant dans la ligne
droite de l’horizon où pointent les voiles latines.
Une grande buée flotte des deux côtés de la rive. Ce sont les
Marismas, les maremmes fertiles en fièvres. Ni village, ni ferme, ni
culture dans ces vastes étendues de terre grise et poussiéreuse,
tachées çà et là d’inextricables fourrés de joncs, et que les pluies
d’automne transforment en fondrières et en bourbiers.
Le fleuve s’élargit de plus en plus ; ses bords s’ensablent. Les
bouquets de verdure reparaissent ; des tas de foin, de petites
maisons blanches, émergeant d’une ceinture de palmiers noirs,
dépassent la ligne très basse de l’horizon. Aux paysages hollandais
et séquaniens succède un décor du Nil.
Une bruyante bande de cochons noirs fouille les joncs, près d’un
cheval en détresse, qui, enfoncé jusqu’au poitrail, essaye vainement
de se désenliser. Un peu plus loin, mules, chèvres, taureaux,
chevaux paissent, pêle-mêle, dans une confraternité inconnue aux
humains.
Un bac-radeau, chargé de gens et de bêtes, va d’une rive à
l’autre aborder à un petit port de pêche flanqué d’une fabrique
d’alcool à l’enseigne germanique. Des groupes de fillettes et de
garçonnets, jambes et pieds nus, graves comme père et mère, nous
regardent passer.
Là-bas, là-bas, dans la plaine, de tous côtés, où se porte la vue,
des troupeaux de taureaux sèment d’innombrables points bruns les
grandes nappes grises. Quelle terrible consommation !
Des hauteurs dentelées se dressent brusquement, à droite,
derrière un coude du fleuve, comme une ligne de bastions
cyclopéens. Ce sont les falaises de la côte, et, tout près, les
triangles blancs des voiles coupent l’azur intense et cru.
Des pyramides de sel s’alignent à notre droite : les salines de
Santa-Teresa et de San-Carlos ; elles étincellent sous le soleil
comme des morceaux de diamants.
Le fleuve devient d’une largeur immense, presque un bras de
mer ; il y débouche majestueusement en une courbe énorme.
On navigue entre des dunes garnies de forêts de pins et de
grands cèdres, et bientôt paraissent les maisons roses et blanches
du petit port de Bonanza avec l’aspect coquet d’un village de la
Seine ; puis, un peu plus loin, au milieu de bouquets de palmiers et
d’orangers, s’étend la jolie ville de San-Lucar.
San-Lucar de Barrameda, le grand port des Maures d’Espagne,
n’est plus qu’un simple garage. Devenue ville d’eaux, elle reçoit le
tout Séville, le tout Xérès, le tout Cadix, c’est-à-dire la totalité des
vaniteux désœuvrés qui ont introduit la coutume de s’ennuyer
correctement et à grands frais, ce qu’on appelle enfin la fine fleur de
la civilisation.
Aussi, malgré l’extérieur séduisant, les jardins délicieux et la
plage pittoresque, ce n’est pas ici que je prendrai pied.
Une forte houle nous reçoit dans l’Océan et nous oblige à saluer
malgré nous le fort de Chipiona et à zigzaguer sur le pont comme de
vieilles Anglaises le soir de Noël. C’est une véritable gigue que nous
dansons en doublant la pointe de Camaron et Rota, qui nous sourit
de sa vieille enceinte, au sommet de sa falaise. Rota, dont je goûtais
pour la première fois, il y a quelque vingt ans, sur les confins du
Sahara, le vin digne des dieux, cadeau de mon brave colonel du
Paty de Clam, ne reçut que des hommages en nature dont
s’emparèrent aussitôt les poissons atlantiques.
Mais tout s’oublia devant le panorama magique, car soudain, en
face de nous, sortant du milieu des vagues bleues, surgit la belle
Cadix, tout hérissée de ses tours, de ses clochers, de ses dômes, de
ses belvédères, blanche et ensoleillée comme une cité de l’Orient.
 XLIV
CADIX

Les circonstances m’obligèrent à descendre à la fonda de

Europa d’où un hôtelier à cheval sur les mœurs expulsa jadis
Alexandre Dumas père pour cause de trop de facilité dans ses
liaisons féminines, et j’eus l’honneur de coucher dans la chambre
qu’occupa une seule nuit l’illustre romancier. Dumas n’eut qu’à se
féliciter d’ailleurs de cette sévère mesure, car à la pudibonderie
chrétienne l’hôtelier joignait, ce qui est fréquent, une friponnerie tout
hébraïque.
Les propriétaires ont changé. Les étrangers sont bien accueillis.
On y vit bien et à bon marché, comme d’ailleurs dans toute
l’Andalousie. Mais la cuisine y est française, et j’ai la manie de peu
priser à l’étranger ce que j’estime à la maison.
Ce n’est pas la peine d’aller à Cadix pour se voir servir, en
grande pompe, des biftecks aux pommes ou des côtelettes Soubise,
par des messieurs en habit noir. Un vulgaire puchero, une olla
podrida apportée sur un coin de table par une accorte gaditane
eussent été plus de mon goût. Je suis de l’avis de Montaigne : « Je
pérégrine non pour chercher des Gascons en Sicile, j’en ai laissé
assez au logis ; je cherche des Grecs plutôt et des Persans… » Je
cherchais de vrais Espagnols, mais il paraît qu’il n’en est plus
guère : ils sont devenus Bordelais. C’est ainsi qu’au pays du vin par
excellence, on vous sert du bordeaux à table. Il est fabriqué dans
quelque officine allemande ; il ne vaut rien, on le paye fort cher, mais
le snob est satisfait. Ah ! les snobs ! ils envahissent et gâtent le
monde.
Depuis que les voyages sont devenus faciles, sur cent touristes
on se heurte aux préjugés de quatre-vingt-dix-neuf philistins.
Bref, en la fonda de Europa on se croirait en un hôtel du
voisinage de la Bourse, sans la petite chapelle où les demoiselles de
la maison entretiennent devant une Vierge luxueusement habillée
une lampe perpétuelle, et une vieille señora dans l’infortune qui, au
dessert, fait le tour des tables, offrant aux convives des scapulaires,
béat petit commerce que je soupçonnais fort en couvrir un plus
profane.
La ville est gaie, propre, bien bâtie. Ses rues étroites, bordées de
maisons hautes, débouchent presque toutes aux deux extrémités
sur la mer qui l’entoure, à l’exception de l’isthme long et étroit qui la
rattache à San-Fernando. Les étages sont formés d’élégantes
miradores et les toits en terrasse, de coquets belvédères. Elle est
célèbre par la splendeur de ses nuits et la beauté de ses filles.
Même en Espagne on dit : « Les nuits de Cadix. »
Les Nuits de Cadix ! un joli titre de roman à sérénades. De
sérénades il n’y en a plus, non plus d’échelles de soie, ce qui
n’empêche pas l’amour de courir les rues par l’entremise des
procureuses.
Nous trouvons justement à la porte de l’hôtel une gitana aux yeux
flamboyants qui guettait notre sortie. Bien qu’elle fût maigre comme
une bonne jument du Haymour, elle était encore assez jeune et
passable pour battre pour son compte les buissons de Cythère ;
mais veuve et chargée de famille, elle ne travaillait que pour autrui.
Retirant de son doigt une bague comme dans les vieux romans
espagnols, elle nous la présenta, non pour nous l’offrir de la part
d’une señora prise subitement du mal d’amour, mais pour nous la
vendre.
 Ce commerce de l’unique bijou qu’elle possédât ne servait qu’à
en couvrir un autre, car continuant à tenir sa bague du bout des
doigts, elle nous raconta confidentiellement qu’elle connaissait deux
señoritas muy hermosas et muy jovenes (très belles et très jeunes)
qui raffolaient des seigneurs français.
Nous venions à peine de nous en débarrasser qu’un drôle de
quinze à seize ans nous accoste. Cette fois, c’est un Murillo.
Excellente occasion ; le dernier. Soixante douros.
« Merci, nous en avons acheté trois grosses à Séville. »
Le chenapan nous regarde effaré.
« Voulez-vous des costumes de gitanas ?
— Tu nous offriras cela au prochain carnaval.
— Ah ! vous serez partis ! Alors achetez une navaja de Santa-
Cruz, dit-il en tirant un couteau de sa poche.
— Nous en revenons.
— Une de Tolède ?
— Elle est fabriquée à Berlin.
— Justement ; ce sont les bonnes lames. »
Il fait mine de se fouiller pour chercher le couteau et sort un petit
cahier de photogravures obscènes, qu’il nous ouvre discrètement.
« Va porter ça au padre qui passe là-bas.
— Oh ! il les connaît, riposta le rufian sans sourciller, je lui en ai
déjà vendu. »
Et plus bas : « Je puis vous procurer des niñas muy baratas (des
jeunes filles très bon marché). »
C’est, je crois, une des spécialités de l’Espagne que ce courtage
fait par des adolescents. Les niñas, pas n’est besoin de l’ajouter,
sont des demoiselles de corps de garde qui ont fait la joie de
plusieurs générations de troupiers.
« J’ai une jolie petite sœur…, continua cet industriel d’avenir.
— Va-t’en, ignoble gredin.
 — Si vous la voyiez !…
— Prends-la pour toi.
— C’est déjà fait, riposta-t-il cyniquement, mais je la prête. »
Il ne se découragea pas, et voyant que ses offres séduisantes se
heurtaient vainement au triple airain de notre vertu, il s’offrit
finalement comme guide pour visiter la cathédrale et autres lieux
sanctifiés.
Après les splendeurs monumentales et les richesses
archéologiques de Tolède, Cordoue, Grenade et Séville, Cadix ne
peut rien offrir de vraiment intéressant. Sa cathédrale ne date que du
commencement du dernier siècle ; elle est lourde, bizarre, construite
de telle sorte qu’elle paraît étroite et rétrécie, bien que d’énormes
dimensions.
Comme à Cordoue, j’y vis célébrer un service bruyant et
pompeux devant les nefs vides. La foi s’en va, mes frères, la foi s’en
va !
Mais le soir, le hasard m’ayant poussé de ce côté, non à la
recherche des vérités de l’Évangile, mais de réalités plus palpables,
je suivis un troupeau pressé de dévotes qui allaient fêter je ne sais
quel apôtre à grands coups de confiteor, car, s’étant accroupies deci,
delà en tas noirs, elles commencèrent toutes à se frapper la poitrine
en chœur, tandis que les vieilles, chargées de plus de péchés que
les autres et ne pouvant plus en commettre, poussaient de regret ou
de repentir des petits gémissements du plus réjouissant effet.
A un moment, la scène devint si comique que pour conserver
mon sérieux et ne pas me faire chasser par une escouade de
badauds scandalisés, je dus détourner les regards de ce spectacle
burlesque ; et un autre, non moins intéressant, attira mon attention.
Deux très jeunes prêtres, de cet âge impétueux où l’on réserve
d’ordinaire au dieu Pan ses plus ardentes offrandes, s’étaient
humblement agenouillés côte à côte près du bénitier de la porte
principale, comme deux coupables honteux, ne se sentant pas
dignes de souiller de leur présence le sacré sanctuaire. Mains
jointes, lèvres marmottantes, ils faisaient mine de prier. Mais s’ils
récitaient des oraisons, ce n’était pas à coup sûr à l’Esprit saint,
mais plutôt à la chair endiablée. Postés de telle façon que nulle
ouaille entrant ou sortant n’échappait à leur examen, yeux
modestement baissés quand s’approchait du bénitier une paire de
culottes ou le pas saccadé de quelque vieille, ils les relevaient
aussitôt quand, sous une jupe frétillante, émergeait d’un soulier sans
empeigne le bas blanc d’un pied mignon.
Je m’imaginais d’abord en ma simplicité d’âme qu’ils faisaient
l’espionnage pour un mari cocu et jaloux, une mère méfiante, un
père barbare, mais je reconnus bientôt à l’air suppliant des apôtres
qu’ils demandaient simplement l’aumône aux compatissantes
señoritas, non l’aumône métallique et vile, ni le morceau de pain et
la tranche de saucisson qu’on jette en le sac profond du frère
quêteur, mais celle de chair fraîche, le froment fécond de la vie, la
franche lippée d’amour.
Si jamais je me fais curé, ce sera curé espagnol. C’est encore un
bon métier par le temps qui court. Confesser les petites Andalouses
et leur infuser la sainte communion, voilà qui m’irait joliment. Mais ce
n’est pas sous la cuvette du bénitier que je prendrais des poses
plastiques et pieuses, ni à la porte de l’église que je ferais mes
patenôtres. Enfin, passons ; mais avant de passer outre, je veux
témoigner une admiration aux padres. A en juger par leur œil
émerrilloné, leur confiante désinvolture, la façon délurée dont ils
roulent leur cigarette en clignant de la prunelle aux majas (jolies
filles), ils doivent s’entendre à trousser lestement la morale et porter
allègrement le poids de leurs vertus.
Mes dévotions faites, j’allai terminer la soirée en un beuglant des
bas quartiers. Ce sont ceux-là que j’affectionne, car là se réfugient
les restes de couleur locale. On y donnait justement une saynète où
un malheureux boulevardier jouait, comme bien vous le pensez, un
rôle de jocrisse. Fourvoyé dans une ville d’Espagne à la suite de
diverses aventures, on lui servait un gaspacho, mais il avait le palais
si délicat que, quelle que fût sa faim, il ne pouvait avaler une
cuillerée ; le vin de Val de Peñas l’horripilait, le vin de Malaga était
trop doux, celui de Rota trop fort. On finissait par lui fabriquer une
sorte de breuvage avec des rinçures de bouteille qu’on lui vendait à
un prix fou sous le nom de bordeaux et qu’il trouvait délicieux.
Ce Parisien extraordinaire était aussi excentrique en amour qu’en
cuisine. Un complaisant de l’endroit, chargé de lui raccoler quelque
jolie fille, lui présenta une petite gaditane qui eût donné des
distractions au vénérable époux de la Vierge Marie, le saint le plus
calme du calendrier. Il trouva qu’elle sentait l’ail. On lui en amena
une autre : elle n’était ni coiffée, ni chaussée à son goût ; une
troisième manquait de chic. Bref, on lui apporta une poupée articulée
habillée à la mode de Paris avec un arrière-train sur lequel les
quatre fils Aymon eussent chevauché à l’aise ; il la trouva v’lan,
pchutt, very select, — et autres inepties, — et pressa la poupée sur
son cœur.
La toile tombe là-dessus et les spectateurs rient aux larmes.
Comme je ne suis pas ce boulevardier, que j’estime fort l’ail, le Rota
et le Val de Peñas et ne prise que médiocrement les poupées et les
poufs, l’épigramme ne me touche pas, ce qui semble vexer mes
voisins.
Ceci n’est que ridicule et inoffensif, mais suffisant pour montrer
qu’on ne nous aime guère. C’est surtout dans les mélodrames
charpentés avec les épisodes nationaux que nous sommes
présentés sous un côté odieux à la grande joie du populaire. Quand
on joue la Défense de Cadix et que le bandit Jaime (Jacques) El
Barbado s’écrie avec emphase : « Ah ! quel beau chapelet de têtes
de Français nous allons fabriquer », des applaudissements
frénétiques éclatent, et, si en ce moment un Français se trouvait
dans la salle, il n’en sortirait pas sans quelques horions.
Nous raillons volontiers l’étranger, mais en dépit des railleries
spirituelles ou bouffonnes, nous avons au fond un sentiment de
bienveillance.
Il suffit même de se dire étranger pour être bien accueilli. De là
l’étonnant succès de tous les rastaquouères et l’audace des espions
allemands. Ce sentiment est plein de générosité et de délicatesse,
mais en vérité, comme la plupart des beaux sentiments, il est une
duperie, car je ne sais guère de peuple qui nous rende la pareille.
Notre facile cosmopolitisme n’est partagé nulle part et le fameux
refrain :

Les peuples sont pour nous des frères,

n’a d’écho que chez nous.

Si ce sont des frères, ce sont de vilains frères qui veulent bien
participer à tous les avantages de la fraternité, mais à leur seul
profit. Et, ainsi que le disait récemment à Nancy mon ami Victor
Courtois, président des Sociétés patriotiques de Lorraine :
« L’heure est venue d’un égoïsme national qui nous oblige à nous
défier. La fraternité des peuples n’est que le mot de passe des
ouvriers étrangers qui viennent manger le pain des nôtres quand ils
ne sont pas envoyés à la solde de l’Allemagne pour nous trahir. »
Du haut de la tour de la Vigia, à peu près au centre de Cadix, l’un
des plus merveilleux panoramas de l’Europe dédommage largement
le touriste des fatigues de l’ascension. La ville, les innombrables
villas de la superbe baie, l’étroit promontoire, la flotte, la campagne
et le vaste océan offrent à l’œil ravi mille tableaux divers. Là-bas, sur
la pointe avancée, Rota ; plus près, Santa-Maria, le quai de Bercy
des vins de Xérès, à la barre de la Guadalête, d’où s’embarqua
Amerigo Vespucci, et célèbre par ses courses de taureaux, aussi
renommées que celles de Séville.
Dans la plaine voisine, le Goth Rodrigue, l’amant de la belle
Florinde, perdit contre Tarik la bataille qui livra l’Espagne aux
Maures, heureuse invasion dont tous les amis de l’art doivent se
féliciter.
Voici le vieux fort de Santa-Catalina ; les marais salins où le San-
Pedro déroule ses méandres ; le château de Puntalès en face du
Trocadero qui commande l’entrée de l’anse au fond de laquelle
Puerto-Real étale ses coquettes maisons blanches vis-à-vis du
grand arsenal et des forts casematés du bagne de la Carraca.
 C’est à l’entrée de ce détroit qu’eut lieu, lors de la seconde
invasion française, le combat de Trocadero. Après une héroïque
résistance de la milice gaditane, nos troupes s’emparèrent du fort en
se jetant dans l’eau sous le feu des batteries, ce qui rendit le duc
d’Angoulême maître de Cadix où s’étaient retranchées les Cortès.
Stérile succès d’une stérile campagne qui coûta cent millions à
nos pères.
Carraca, dans l’île de Léon, derrière la San-Fernando où fut
proclamée la Constitution de 1812, celle qui donna son nom à la
place principale de toutes les villes espagnoles. Ainsi, en 1848, nous
baptisâmes les nôtres place du Peuple ou de la Liberté.
Car de ce côté-ci ou de l’autre côté de la montagne, qu’il habite
la rive droite ou la rive gauche du fleuve, les bords atlantiques ou
méditerranéens, le peuple se paye aisément de mots, et pourvu que
ses tribuns l’appellent citoillien en lui faisant croire qu’il est souverain
maître, il se déclare satisfait.
A voir ce mot Constitucion sur toutes les places publiques, je me
suis dit qu’il correspondait à notre trinité platonique : Liberté, Égalité,
Fraternité, farce déjà centenaire. Constitution ou immortels principes
n’ont pas empêché les exploiteurs d’exploiter, les tripoteurs de
tripoter, les traitants de voler, les voleurs de triompher, les braves
gens d’être dupes, et les pauvres diables n’en ont pas croqué un
pois chiche de plus. Il en est des constitutions comme des agents de
la paix chantés par Jules Jouy :

Car des sergots ou pas de sergots,

Pour nous, c’est kifkif bourrico,

puisque des plus farouches amis du peuple, bourgeois ou

prolétaires, chacun travaille pour son singe, suivant l’expression de
certain conseiller municipal manquant de lettres, ce que Jules Vallès,
dans l’intimité, résumait par ce mot en montrant son puissant
abdomen : « Le pauvre, c’est Bibi. »
 XLV
DE CADIX A ALGÉCIRAS

En faisant ces réflexions, harcelé par une nuée de lamentables

guenillards qui se disputaient la faveur de porter mon havresac
jusqu’au port, je pris le paquebot d’Algéciras.
Nous revoici côtoyant l’Espagne, par une mer houleuse.
Chiclana, dont les eaux sulfureuses attirent nombre de malades,
paraît coquette et bien bâtie au pied d’une colline que dominent les
ruines d’un vieux monastère. De longues rangées de pyramides de
sel se succèdent, puis vient Conil à l’embouchure de la Conilète, ce
que les Espagnols appellent Salado de Conil, séduisant petit recoin.
La côte se découpe en roches énormes et le cap de Trafalgar, de
sinistre mémoire, se dresse devant nous.
Derrière, Vejer de la Frontera s’assoit pittoresquement sur la
crête d’une montagne. Bientôt se dessinent sur l’horizon les côtes
marocaines, et huit heures après notre départ nous doublons le cap
de Tarifa, la pointe la plus avancée du continent européen.
Tarifa, avec sa vieille forteresse, son antique château maure bâti
sur le roc, est peut-être le point le plus connu des marins et le plus
inconnu de l’Espagne. Enfermée dans ses murailles sarrasines, loin
de toute communication, sans industrie, sans commerce, voyant
passer tous les navires sans qu’aucun s’y arrête jamais, la vieille
petite ville semble une épave oubliée des âges disparus. Les
femmes n’y sortent que le visage voilé comme les femmes arabes,
et les historiographes du dernier empire ont été y chercher le
berceau familial de l’impératrice Eugénie, inscrivant dans son arbre
généalogique Alonzo Perez de Guzman, que l’on surnomma le Bon.
Alcade de Tarifa vers la fin du treizième siècle, il eut à la défendre
contre une attaque des Maures.
Pendant le siège, ceux-ci parvinrent à s’emparer de son fils et
menacèrent Guzman de le tuer sous ses yeux s’il ne leur livrait le
château. L’alcade leur jeta son poignard avec ces paroles sublimes :
« Tuez-le avec ceci, puisque vous l’avez résolu : j’aime mieux
mon honneur sans mon fils que mon fils sans mon honneur. »
Alors la digne épouse de Guzman se joignit à son mari :
« Vous pouvez tuer mon enfant, cria-t-elle, nous en fabriquerons
d’autres. »
Et sautant sur un des créneaux, pour mieux défier l’ennemi, elle
se troussa jusqu’aux hanches :
« Le moulin fonctionne toujours, ajouta-t-elle, et le meunier est
encore bon ! »
L’Iliade et l’Odyssée n’offrent rien de semblable, et cet acte trop
héroïque pour que l’on puisse en rire, loin de désarmer les terribles
Sarrasins, ne fit qu’accroître leur colère.
Sous les yeux du père et de la mère, la tête de l’enfant tomba.
Le soir venait lorsque tout à coup le noir et gigantesque rocher
de Gibraltar s’étala devant nous avec l’aspect d’un monstre
accroupi. Rien ne peut rendre la majesté de cette masse solitaire,
qui se détache brusquement sur la mer et le ciel. Nous entrons dans
la baie : la nuit est déjà descendue, un vent violent du sud-ouest
s’engouffre dans cet entonnoir et nous secoue jusque sur Algéciras,
rendant le débarquement difficile.
Une barque nous prend et à grand’peine nous atteignons une
vieille jetée balayée par les lames, tandis que pour recevoir les
bagages les portefaix entrent dans l’eau jusqu’au ventre,
cramponnés à des câbles. Un port peu commode et qui n’exigerait
cependant que quelques travaux pour devenir excellent.
Tout trempés par les coups de mer, nous entrons dans le premier
hôtel venu où nous scandalisons les convives assis à la table d’hôte.
Pas de chance. Victoria Hotel. Nous voici en pleine Angleterre.
Table silencieuse, garçons sévères en habit noir, mines composées,
cols carcans, œil froid, mentons de galoche. Sûrement, c’est John
Robinson esquire, mistress Penelope Philips et ses six filles, master
Harry Brown et son tutor, miss Kate Kidney et ses lunettes ! Que le
diable les emporte tous ! Eh bien, pas du tout, ce ne sont pas des
Anglais, mais des hidalgos de pure race andalouse qui cherchent à
imiter les Anglais et n’en sont que plus stupides. Toute imitation est
signe d’infériorité. Et ils réussissent si bien que, sans leur langage
castillan, nous les prenions pour des Shopkeepers de Tottenham
court road. En habit comme les larbins, ils semblent absolument
horrifiés de la simplicité rustique de notre costume trempé ; aussi,
pour les horrifier davantage, nous apercevant qu’ils poussent
l’imitation britannique jusqu’à boire au pays du doux vin l’ale âcre et
nauséabonde, nous frappons à l’unisson sur la table en criant : « Du
vin, N. de D., du vin, nous sommes encore ici en Espagne, qu’on f…
la bière à Gibraltar. »
Algéciras est célèbre dans l’histoire militaire. Les Maures
assiégés par Alphonse de Castille y tirèrent les premiers coups de
canon que l’on entendit en Europe. Que de terribles échos depuis !
J’aime mieux son autre renommée, celle de la beauté de ses filles,
bien que je n’aie pas eu le temps d’en juger, car arrivés à la nuit
tombante, le petit jour nous trouvait sur la jetée essayant d’entrer en
une barque qui tantôt s’élevait à hauteur de nos mollets et l’instant
d’après s’effondrait à cinq pieds au-dessous.
Cette infernale jetée dont la pointe est détruite depuis au moins
un demi-siècle, et contre laquelle nous avions manqué nous briser la
veille, est grâce à l’incurie de la municipalité un point de
débarquement des plus dangereux par les gros temps.
 Je ne sais si les honorables conseillers d’Algéciras occupent
leurs loisirs à négocier des pots de vin et leurs heures d’étude à
changer les noms des rues, mais les barques qui transportent
voyageurs et bagages sont exposées à chaque coup de mer à être
mises en pièces contre des débris de maçonnerie qu’il serait facile
de faire enlever.
C’est ce qui faillit nous arriver ; mais, si nous échappâmes à un
bain matinal, nous vîmes nos valises plonger tout à coup et
disparaître en un clin d’œil, spectacle toujours amusant pour les…
voisins. On nous affirme qu’on ne tardera pas à les repêcher, et sur
cette consolante promesse, repoussés de la jetée à grands efforts
de gaffe, nous roulons vers la barcasse espagnole, qui mit en
bourlinguant horriblement près de deux heures pour une traversée
de quelques lieues.
 XLVI
GIBRALTAR

Le rocher géant se dresse devant nous avec une intensité

extraordinaire de tons, découpant sur les feux du levant sa noire et
monstrueuse silhouette. La tête ronde et colossale tourne du côté de
l’isthme une mâchoire de rochers taillés à pic, tandis que la crête de
son dos pelé descend en pente douce vers l’Afrique.
A mesure que nous approchons, les détails s’accentuent. A mi-
côte seulement commencent à poindre les touffes de bruyères, les
genêts, les nombreuses variétés de plantes saxatiles et d’arbustes
rupestres dont les plaques verdoyantes s’épaississent de plus en
plus et servent d’asile à une colonie de singes sans queue, frères de
ceux de l’Atlas, brusquement séparés de leur race primitive lorsque
la poussée des eaux sépara les colonnes d’Hercule. Des villas
éparses tachent de leur blancheur crue les nappes grises ou vertes ;
un escalier grimpe en zigzaguant jusqu’à une vigie solitaire fouettée
par les vents des deux mers ; de vieilles tours mauresques
s’échelonnent du côté de la terre, et tout au bas la ville, ou les deux
villes, Gibraltar et la pointe de l’Europe, séparées par un jardin aux
plantes tropicales, s’étendent en éventail, sur les dernières pentes.
Enfin, au ras de la mer, la ligne des casernes et des fortifications, et
au premier plan, groupés en un tas, l’amas de navires.
 Bientôt une particularité attire l’attention. Ce rocher, haut de 500
mètres sur une longueur de 3 kilomètres environ et de 1000 mètres
dans sa partie la plus large, est percé comme une écumoire.
Des rangées de trous noirs, aussi pressés que les sabords d’un
vaisseau de guerre, le sillonnent en tous sens, et chacun de ces
trous est l’embrasure d’une bouche à feu. Plus de mille crèvent ainsi
le roc, dont l’intérieur est percé de galeries, de salles, de chemins,
de tunnels, d’escaliers, perforé comme un vieux tronc vermoulu. Les
habitants prétendent que si toutes ces bouches crachaient en même
temps, le rocher miné et contre-miné croulerait.
Le débarquement se fait comme à Cadix et à Algéciras, au
moyen de bateliers. Ils assiègent le navire, renforcés de guides et de
courtiers qui se précipitent à l’abordage, et, avant que vous ayez eu
le temps de vous préparer à l’assaut, s’emparent de vous et de vos
colis en criant, dans toutes les langues et tous à la fois, les noms de
leurs cavernes.
Nous disputons avec énergie nos personnes et nos sacs à un
grand coquin d’Allemand, à la casquette galonnée, qui hurle : Alpion
Hôdel ! Alpion Hôdel ! pour confier le tout à la discrétion du
représentant de la fonda de España, dont les vêtements
suffisamment râpés annoncent des prétentions plus modestes. Il
s’en saisit triomphalement après un échange d’injures, en différents
idiomes, avec son rival, qui nous regarde avec tout le mépris dû à
des voyageurs à cinq schellings par jour.
On débarque entre deux rangées de policemen, aussi droits,
aussi corrects que leurs confrères métropolitains. A part le casque
en toile blanche, on les croirait venir de la parade de Scotland Yard.
Pas de visite de douane vexatoire, pas de perquisition dans les
poches, comme dans tous les ports d’Espagne. Gibraltar est un port
libre, tout y entre en franchise, à l’exception des alcools et des
armes. La seule formalité à remplir est de se présenter au guichet
d’un bureau installé au point de débarquement et d’y demander un
permis pour entrer en ville. Sur notre mine honnête, on nous délivre
sur-le-champ un billet valable huit jours.