Пример рассчитан на Object Pascal (Delphi), т.к. применяются динамические массивы.

Type

TMatrix = array of array of extended;

Var

A,B,C : TMatrix; // глобальные переменные - сами матрицы
RowCount, ColCount : integer; // Размеры матриц тоже сделаем глобальными, хотя их и вовсе
// можно не вводить

-------------------- А теперь процедуры и функции ------------------------

// Процедура вычисления матрицы
Procedure CalcMatrix;
Var
i,j:integer;
Begin
for i:=0 to RowCount-1 do
for j:=0 to ColCount-1 do C[i,j]:=GetMatrixCell(i,j);
End;


//Функция вычисления элемента матрицы
Function GetMatrixCell(iIdx, jIdx):Extended;
Var
tmp:Extended; // Можно и не вводить, но так проще для понимания
j:integer;
Begin
tmp:=0;
for j:=0 to ColCount-1 do
tmp:=tmp+A[iIdx,j]*NotPresentInB(A[iIdx,j],jIdx);
// или так:
// if NotPresentInB(A[iIdx,j],jIdx) then tmp:=tmp+A[iIdx,j];
Result:=tmp;
End;

// А теперь проверка условия невхождения элемента A в указанный столбец B
Function NotPresentInB(AItem:Extended; jIdx:integer):Integer;
// или :Boolean;
Var
i:Integer;
Begin
Result|:=1; // или :=True; - по умолчанию предполагаем, что совпадений нет...
for i:=0 to RowCount-1 do
if B[i,jIdx] = AItem then
begin
Result:=0; // или :=False;
Break; // прерываем цикл - совпадение обнаружено
end;
end;

А это решение в Паскале?