You are viewing [info]amspb1's journal

Anatoly's Journal
 
[Most Recent Entries] [Calendar View] [Friends]

Below are the 20 most recent journal entries recorded in Anatoly's LiveJournal:

    [ << Previous 20 ]
    Wednesday, March 30th, 2011
    11:44 pm
    Борьба с коррупцией
    Борьба с коррупцией: Собрать список в Интеренете тех кто готов отказаться от дачи взяток. Когда число таковых достигнет достаточно большого количества Объявить день отказа от дачи взятки и распространить эту информацию среди подписавшихся
    Monday, March 14th, 2011
    1:15 pm
    Получение схемы вычисления степени близости для произвольной матрицы векторов
    Как получить эффективную схему вычисления степени близости для матрицы векторов, отличной от матрицы Адамара.
    1. Будем считать что матрица содержит 2^N стобцов.
    2. Сгруппируем ее по 2 столбца. В каждой паре возможны следующие комбинации
    ( + обозначим 1, - обозначим -1)
    + +
    + -
    - +
    - -
    С точностью до знака всего два варианта (++) и (+-) Если нам повезет то каких то вариантов в данной паре столбцов может не быть. Поместим в нашу схему сумматоры/вычитатели соответствующие найденным вариантам
    3. Сгруппируем матрицу по 4 столбца. Всего вариантов 16 С точностью до знака 8. Для двух битов мы уже просуммировали. То есть возможно 8 разных комбинаций сложения/вычитания. Если нам повезет, то не все варианты будут представлены. Теперь выходы элементов полученных на предыдущем шаге соединим с входами элементов полученных на данном шаге.

    4. Продолжим итерацию до тех пор пока число групп не станет равно 2 (то есть на каждом шаге вдвое увеличиваем число столбцов в группе)

    По информации авторов данная схема в среднем уменьшает число элементов в 16 раз по сравнению с непосредственным сложением/вычитанием
    12:50 pm
    Реализация сложения/вычитания
    В рассмотренной ниже схеме использовать для реализации обычные сумматоры не эффективно. Их слишком много надо.
    Возможные варианты замены:
    1. Аналоговая реализация (из сопротивлений и диодов) как описано в X. Хармут. Теория секвентного анализа: основы и применение Мир. 1980

    2. Максимально огрубленное сложнение/вычитание. Вводится пара операций [+] и [-] на множестве {-1,0,1}

    a [+] b = sign(a+b)
    a [-] b = sign(a-b)
    Где sign - функция знака числа.
    Например:
    1 [+] 1 = 1
    1 [+] 0 = 1
    1 [+] -1 = 0
    1 [-] 1 = 0
    etc.

    3. Использование потокового представления чисел и соответсвующих операций сложения вычитания.
    Потоковое представление представление при котором число кодируется потоком чисел
    Будем рассматривать потоки из {-1,0,1} Будем считать что поток представляет число из интервала [-1,1], если
    <число> = <вероятность в потоке 1> - <вероятность в потоке -1>

    В этом случае для сложения можно просто "слить" два потока (например выбирать поочередно значения то из одного то из другого потока и выводить их в выходной поток). Правда при этом получится операция (a + b)/2. Но для наших целей она подойдет.
    Для получения операции (a - b)/2 просто перед сложением будем менять знак очередного элемента из потока b на противоположный ( 1-> -1, 0 -> 0, -1 -> 1)
    Интересно что при такой реализации преобразователь Уолша генерит поток - произведение входного вектора на соответствующие функции Уолша
    Sunday, March 13th, 2011
    10:46 pm
    Пример ассоциативной памяти - быстрый преобразователь Уолша - Фурье


    Быстрый преобразователь Уолша - Фурье (N = 8) вычисляет меру близости вектора к функциям Уолша и в этом смысле хранит их
    Sunday, March 6th, 2011
    5:05 pm
    Ассоциативная память основанная на изменении структуры связей
    Анатолий Медынцев
    Краткая аннотация

    ПОСТОЯННАЯ АССОЦИАТИВНАЯ ПАМЯТЬ С ХРАНЕНИЕМ ИНФОРМАЦИИ В СТРУКУРЕ СВЯЗЕЙ: ПОСТАНОВКА ЗАДАЧИ

    В докладе рассматривается возможный подход к созданию памяти адресуемой по содержанию (content addressable memory (CAM)), которая, в отличие от используемых в настоящее время хранит информацию не в виде состояний элементов, а в структуре связей между элементами.

    Описывается используемая модель памяти. Память хранит векторы значений из {-1,1}. Ключевой вектор по которому осуществляется поиск может содержать значения {-1,0,1} – (-1 – false, 0 – не определено, 1 – true). Выборка состоит в поиске векторов максимально похожих на ключевой вектор. В качестве меры схожести используется скалярное произведение двух векторов. Именно каждый хранимый вектор умножается скалярно на ключевой и выбираются векторы на которых достигается максимум меры схожести. Если максимум достигается на нескольких векторах, то в качестве результата выдается сумма этих векторов (таким образом вектор – результат может содержать целые числа). Подобная память позволяет выполнять выборку по частично заданному ключевому вектору.
    Аналогичные по логике устойства достаточно широко известны. При этом элементы векторов хранятся в обычных ячейках памяти, а память является перезаписываемой и имеет постоянную структуру, не зависящую от хранимой информации.

    Здесь рассматривается подход к реализации памяти без возможности перезаписи и со структурой, зависящей от хранимой информации. Вместо хранения элементов векторов в ячейках памяти делается попытка хранить информацию в структуре связей между элементами, выполняющими операции сложения/вычитания. Для этого операции вычисления меры схожести, поиска максимума и суммирование векторов – результатов предлагается реализовать “в железе” в виде специализированных для данного набора векторов схем (возможно аналоговых). В качестве примера такой схемы для конкретного набора векторов приводится схема быстрого преобразователя Уолша- Фурье, выполняющего вычисление введенной меры схожести и суммирование векторов результатов для векторов – строчек матрицы Адамара.
    Вопрос о том как построить минимальные по числу элементов схемы для произвольного набора векторов остается открытым.
    Friday, February 18th, 2011
    11:09 pm
    О пенсиях
    Кто выходит на пенсию в 60 - тому маленькая пенсия - кто выходит в 65 - большая
    Tuesday, February 1st, 2011
    1:05 pm
    Simple AI
    Objects can be considered as result of statistical clustering of signals from receptors. So, we can create AI as follow:
    1.Create a system with receptors
    2.Support the statistical clustering
    3.Assign a word to each cluster - so, we have language. After that we can talk with the system about these clusters (objects).
    4.If receptors receive information about the system itself then we have consciousness.
    5. Support of communication the system with itself via language is thinking

    .
    Thursday, January 6th, 2011
    3:45 pm
    Tuesday, November 30th, 2010
    12:30 pm
    Альтернативные выборы президента
    Провести альтернативные выборы президента в Интернете
    Sunday, July 4th, 2010
    7:16 pm
    Thursday, June 24th, 2010
    5:33 am
    Суд
    У подсудимого должно быть право выбора судьи
    Tuesday, June 22nd, 2010
    5:28 am
    -5 Контекстное управление ненасильственным переворотом
    Знаешь что такое контекстное управление обществом?
    Это когда группа лиц формирует контекст в котором остальные люди ведут себя естественно, но достигают цели поставленной этой группой лиц
    Friday, June 18th, 2010
    11:40 pm
    -1 запись
    Была идея высказанная Георгием Хачатуровым о спектральном анализе потребностей
    Wednesday, June 16th, 2010
    5:53 pm
    Сколково
    Сколково надо делать из всей России
    Sunday, February 21st, 2010
    10:10 am
    Лучшая фраза
    При Николае была ситуацию, про которую очень хорошо Пётр Андреевич Вяземский, ядовитый памфлетист, так охарактеризовал: «Он, как мороз» - сказал он про Николая. «Гниль при нём не распространяется, но цвести при нём ничего не будет».
    Friday, December 25th, 2009
    1:40 pm
    Structure Based Permanent Associative Memory
    Anatole L. Medyntsev

    STRUCTURE-BASED ASSOCIATIVE MEMORY

    ABSTRACT

    The article describes an approach to an associative memory. In the currently used approaches the structure of links between elements is fixed (permanent) (e.g. Neural Networks (artificial); computers) and only states of elements are changed (e.g. neurons (artificial); cells of computer memory) to store an information. Contrary to those approaches, the described approach uses network of very simple elements with permanent state (i.e. without state), but the structure of links between elements (scheme) in the network depends on information that is stored.
    So, the information is stored just in the structure of the network.
    As basic element of the structure-based associative memory we uses an element with two entry pins (A and B) and two exit pins (C and D). The logic of the element is the following: C=A+B, D=A-B.
    The core part of the paper is the question: how to retrieve the structure of links (scheme) of the network from the set of vectors that the network should store. Several approaches to optimize those schemes are described.

    THE GENERAL PRINCIPLES OF THE MEMORY

    In the general, the basic ideas of the memory are more or less traditional. We will store in the memory binary vectors. The key vector (i.e. vector that is “searched” in the memory) may contain special values “undefined” to mark unknown bits. So, we use below the vectors with three values {–1 ,0,1} (-1 – false, 0 – undefined, 1 – true).
    To find the result vector(s) we define likeness for vectors:
    Let’s A and B – two vectors with n elements, then define likeness as

    L(A,B)=A1*B1+A2*B2+…+An*Bn

    The result of the “recall” is the vector(s) where the likeness is maximal. If there are several vectors with maximum likeness then define of the result of the recall as the following
    R=sign(M1+M2+…Mk),

    Where M1…Mn – vectors with maximum likenesses value.

    EXAMPLES

    Let we have the following matrix of the stored vectors: (+ denotes +1, - denotes –1)
    ++-+
    +--+
    +++-
    ---+
    ----

    Let’s [–00-] is the key vector. Then the vector of likenesses is multiplication of the key vector on the matrix.

    For first row of the matrix the L value (likeness) is
    -1+0+0+(-1)=-2
    etc.
    The result vector of likenesses will be the following:
    [-2,-2,0,0,2]. So, the result of the recall is the vector with likeness =2, i.e. [----].

    Let’s consider the another key vector: [+000]. Then the vector of likeness values will be
    [1,1,1,-1,-1] and the result is the signum of sum of vectors with the maximum likeness values.
    [++-+] + [+--+] + [+++-] =sign([3,1,-1,1])=[1,1,-1,1]

    (The summing of result vectors we can consider as multiplication of the maximums vector (vector with 1 where likeness is maximal) on the transpose of the matrix of stored vectors).

    So, we can consider the process of “recall” as three-phase process:

    1. Calculation the multiplication of the vector on the matrix of the stored vectors.
    2. Retrieving the maximums vector.
    3. Calculation the multiplication of the maximums vectors on the transpose of the matrix.

    THE SCHEME OF THE MEMORY

    The main idea of the implementation of the memory is the following. We will not save these storing vectors in the some sort of memory. Instead, we will try to implement the phases 1 and 3 for the given matrix as a “hardware”, specific for the given matrix (given set of the stored vectors).
    The banal scheme of the “hardware” is very simple.
    Our matrix contains only –1 and +1 so we need only addition/subtract operations to implement the “hardware”.
    For each row in the matrix we will use the sequence of elements (each element implements addition or subtract). So that, if an element of the matrix is +1 – the corresponding “hardware” element implements addition, otherwise – subtract.

    That scheme is not interesting, because for matrix MxN we need MxN elements that implement addition/subtract. (It is much more expensive than to store the information in the computer’s memory).
    However, we can optimize the scheme for the given set of the stored vectors. For example, we may find vectors with identical parts (sequence of bits) and use the same sequence of elements for calculation for such vectors. As result we can build network of “additional/subtract” elements with irregular structure, depended on the stored vectors set (and this network will calculate multiplication of any key vector on the matrix of the stored vectors).

    An example of the matrix with very compact scheme of multiplication is well known. It’s Hadamar’s matrix (the rows of the matrix is Walsh functions). The compact scheme for this matrix called Fast Walsh-Fourier Transform. The FWT needs only N*Ln(N) (Ln with base=2) elements “addition/subtract” for matrix NxN. (The operation for phase 3 is just backward Walsh-Fourier transform).

    Literature.
    Henning F. Harmuth. Sequency Theory Foundations and Applications, 1977
    Thursday, February 5th, 2009
    11:54 am
    Случайность возникновения жизни
    Рассуждение о том что жизнь не могла возникнуть случайно, поскольку вероятность этого мала - несколько странно. В такой же мере вероятность возникновения планеты Марс тоже мала. В каком то состоянии Земля должна существовать. Вот в каком то состоянии она и существует. Никакого особого преимущества этого состояния перед возможными другими нет. Текущее состояние связано с наличием динамически устойчивой системы жизнь. Могла быть какая нибудь другая динамически устойчивая система. Но получилась эта. В точности так же как Марс получился такой какой он есть. Природа не выделяет жизнь из остальных систем - ей все равно. Это мы выделяем жизнь как систему в которой динамическое равновесие поддерживается сходным с нами способом. В общем это из серии почему атомная бомба падает так точно в эпицентр
    Tuesday, September 23rd, 2008
    2:23 pm
    11:50 am
    Разбиение объектов
    Поскольку как было указано ниже объект это кластер, нет никакой гарантии что его можно представить в виде совокупности более простых взаимодействующих объектов/кластеров. Поэтому переход ко все более элементарным частицам скорее всего ограничен. То есть есть предел разбиения и дальше разбить нельзя.
    Monday, July 7th, 2008
    10:42 am
    Электронные деньги - инструмент борьбы с коррупцией
    Рядом политиков, в том числе на высшем уровне была высказана мысль, что введение электронного документооборота и денежного ображения - инструменты борьбы с коррупцией.
    Действительно электронный денежный оборот позволяет потенциально отслеживать финансовые потоки. То есть можно отследить источник денег на счете. Как результат все деньги делятся на "чистые", источник которых можно проследить и "не чистые" - для которых нельзя (сюда относятся и наличные). Чтобы выдавить "не чистые" деньги из экономики можно просто облагать операции с такими деньгами достаточно крупным налогом.
[ << Previous 20 ]
About LiveJournal.com